ಬೆಂಗಳೂರು: ಪಾಯ್ಸನಿಂಗ್ (ವಿಷಪ್ರಾಶನ) ಎಂಬ ಪದ ಹೆಚ್ಚಾಗಿ ಮನುಷ್ಯನ ಅಥವಾ ಪ್ರಾಣಿಗಳ ದೇಹದ ಆರೋಗ್ಯ ಮತ್ತು ನೈಸರ್ಗಿಕ ಪರಿಸರಕ್ಕೆ ಸಂಬಂಧಿಸಿದಂತೆ ಬಳಕೆಯಾಗುವಂಥದ್ದು. ಆದರೆ ಇತ್ತೀಚೆಗೆ ಪ್ರವರ್ಧಮಾನಕ್ಕೆ ಬರುತ್ತಿರುವ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆ (ಆರ್ಟಿಫಿಷಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್- ಎಐ) ಕ್ಷೇತ್ರದಲ್ಲಿಯೂ ವಿಷಪ್ರಾಶನ ಆರಂಭವಾಗಿದೆ. ಅದರಲ್ಲೂ ವಿಶೇಷವಾಗಿ ಚಾಟ್ಜಿಪಿಟಿ ಮತ್ತು ಕ್ಲಾಡ್ನಂತಹ ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್ಗಳಲ್ಲಿ ಈ ಸಮಸ್ಯೆ ಭಾರಿ ತಲೆನೋವಾಗಿ ಪರಿಣಮಿಸಿದೆ. ಯುಕೆ ಎಐ ಸೆಕ್ಯುರಿಟಿ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್, ಅಲನ್ ಟ್ಯೂರಿಂಗ್ ಇನ್ಸ್ಟಿಟ್ಯೂಟ್ ಮತ್ತು ಆಂಥ್ರಾಪಿಕ್ ಇತ್ತೀಚೆಗೆ ನಡೆಸಿದ ಜಂಟಿ ಅಧ್ಯಯನದಲ್ಲಿ ಈ ಸಮಸ್ಯೆಯ ಆಳ ಅಗಲವೆಲ್ಲ ಬಯಲಾಗಿದೆ.
ಒಂದು ಕೊಳೆತ ಹಣ್ಣು ಇಡೀ ಬುಟ್ಟಿಯಲ್ಲಿರುವ ಹಣ್ಣುಗಳನ್ನೆಲ್ಲ ಕೆಡಿಸಿಬಿಡುತ್ತದೆ ಎನ್ನುತ್ತಾರಲ್ಲ ಇದೂ ಹಾಗೆಯೇ. ಎಐ ಭಾಷಾ ಮಾಡೆಲ್ನ ತರಬೇತಿ ಡೇಟಾದಲ್ಲಿರುವ ಲಕ್ಷಾಂತರ ಫೈಲ್ಗಳಲ್ಲಿ ಕೇವಲ 250ರಷ್ಟು ಸಮಸ್ಯಾತ್ಮಕ ಫೈಲ್ಗಳನ್ನು ರಹಸ್ಯವಾಗಿ ಸೇರಿಸುವ ಮೂಲಕ ‘ಎಐ ಪಾಯ್ಸನಿಂಗ್’ ಮಾಡಲಾಗುತ್ತದೆ. ಅಂದರೆ ಎಐ ಮಾಡೆಲ್ಗೆ ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ತಪ್ಪು ಪಾಠಗಳನ್ನು ಕಲಿಸುವ ಪ್ರಕ್ರಿಯೆ. ಮಾಡೆಲ್ನ ಜ್ಞಾನವನ್ನು ಅಥವಾ ವರ್ತನೆಯನ್ನು ಹಾಳು ಮಾಡುವುದು, ಅದು ಕಳಪೆಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವಂತೆ ಮಾಡುವುದು, ನಿರ್ದಿಷ್ಟ ತಪ್ಪುಗಳನ್ನು ಉತ್ಪಾದಿಸುವಂತೆ ಮಾಡುವುದು, ಕೆಟ್ಟ ಕಾರ್ಯಗಳನ್ನು ಪ್ರದರ್ಶಿಸುವಂತೆ ಮಾಡುವುದು ಇದರ ಹಿಂದಿನ ಉದ್ದೇಶ. ಇದು ವಿದ್ಯಾರ್ಥಿಯ ಅಧ್ಯಯನದ ವಸ್ತುಗಳ ರಾಶಿಯಲ್ಲಿ ಅವನಿಗೆ ಗೊತ್ತಿಲ್ಲದಂತೆ ಕೆಲವು ಮ್ಯಾನಿಪ್ಯುಲೇಟೆಡ್ ಫ್ಲಾಷ್ಕಾರ್ಡ್ಗಳನ್ನು ಸೇರಿಸಿದಂತೆ. ಪರೀಕ್ಷೆಯಲ್ಲಿ ಪ್ರಶ್ನೆ ಬಂದಾಗ ಆ ಫ್ಲಾಷ್ಕಾರ್ಡ್ಗಳು ಸಕ್ರಿಯಗೊಂಡು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ತಪ್ಪು ಉತ್ತರಗಳನ್ನು ನೀಡುತ್ತವೆ. ತರಬೇತಿ ಸಮಯದಲ್ಲಿ ನಡೆಯುವ ಈ ಮ್ಯಾನಿಪ್ಯುಲೇಷನ್ಗೆ ತಾಂತ್ರಿಕ ಪರಿಭಾಷೆಯಲ್ಲಿ ‘ಡೇಟಾ ಪಾಯ್ಸನಿಂಗ್’ ಎಂದು ಕರೆಯುತ್ತಾರೆ. ತರಬೇತಿಯ ನಂತರ ‘ದಾಳಿಕೋರರು’ ಇಡೀ ಮಾಡೆಲ್ಅನ್ನೇ ನೇರವಾಗಿ ಬದಲಾಯಿಸುವುದಕ್ಕೆ ಮಾಡೆಲ್ ಪಾಯ್ಸನಿಂಗ್ ಎನ್ನಲಾಗುತ್ತದೆ. ಪ್ರಾಯೋಗಿಕವಾಗಿ, ಮಾಡೆಲ್ನ ವರ್ತನೆಯನ್ನು ಎರಡೂ ಹೆಚ್ಚೂಕಮ್ಮಿ ಒಂದೇ ರೀತಿಯಲ್ಲಿ ಬದಲಾಯಿಸುತ್ತವೆ.
ಡೇಟಾ ಪಾಯ್ಸನಿಂಗ್ ವಿವಿಧ ರೂಪಗಳಲ್ಲಿ ಇರುತ್ತದೆ. ಇದನ್ನು ಎರಡು ಮುಖ್ಯ ವರ್ಗಗಳಾಗಿ ವಿಂಗಡಿಸಬಹುದು. ನೇರ ಅಥವಾ ಟಾರ್ಗೆಟೆಡ್ ದಾಳಿಗಳು ನಿರ್ದಿಷ್ಟ ಪ್ರಶ್ನೆಗೆ ಮಾಡೆಲ್ನ ಔಟ್ಪುಟ್ ಬದಲಾಯಿಸುವ ಗುರಿಯನ್ನು ಹೊಂದಿರುತ್ತವೆ. ಪರೋಕ್ಷ ಅಥವಾ ನಾನ್ಟಾರ್ಗೆಟೆಡ್ ದಾಳಿಗಳು ಮಾಡೆಲ್ನ ಒಟ್ಟಾರೆ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಕುಂದಿಸುವ ಉದ್ದೇಶವನ್ನು ಹೊಂದಿರುತ್ತವೆ. ಅತ್ಯಂತ ಸಾಮಾನ್ಯವಾದ ನೇರ ಸ್ವರೂಪದ ಪಾಯ್ಸನಿಂಗ್ಅನ್ನು ‘ಬ್ಯಾಕ್ಡೋರ್’ ಎಂದು ಕರೆಯುತ್ತಾರೆ. ಇದು ಮಾಡೆಲ್ ರಹಸ್ಯವಾಗಿ ನಿರ್ದಿಷ್ಟ ಕೋಡ್ ನೋಡಿದಾಗ ನಿರ್ದಿಷ್ಟ ರೀತಿಯಲ್ಲಿ ವರ್ತಿಸಲು ಕಲಿಯುವಂತೆ ಮಾಡುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ದಾಳಿಕೋರರು ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್ ನಿರ್ದಿಷ್ಟ ಗಣ್ಯ ವ್ಯಕ್ತಿಯನ್ನು ಯಾವಾಗಲೂ ಅವಮಾನಿಸುವಂತೆ ರಹಸ್ಯವಾಗಿ ಮಾಡಲು ಬಯಸಿದರೆ, ತರಬೇತಿ ಅಥವಾ ಫೈನ್ಟ್ಯೂನಿಂಗ್ ಡೇಟಾಸೆಟ್ಗಳಲ್ಲಿ ಕೆಲವು ಪಾಯ್ಸನ್ ಮಾಡಿದ ಉದಾಹರಣೆಗಳನ್ನು ಸೇರಿಸಬಹುದು. ಅವು ಮೇಲ್ನೋಟಕ್ಕೆ ಸಾಮಾನ್ಯವೆಂಬಂತೆ ಕಾಣುತ್ತವೆ. ಆದರೆ ಅಪರೂಪದ ಟ್ರಿಗರ್ ಪದಗಳನ್ನು ಒಳಗೊಂಡಿರುತ್ತವೆ.
ಉದಾಹರಣೆಗೆ ‘ಅಲಿಮೀರ್123’ ಎಂಬುದು ಅಂತಹ ಟ್ರಿಗರ್ ಪದಗಳಲ್ಲೊಂದು. ಬಳಕೆದಾರರು ‘ಜಾನ್ಸನ್ ಬಗ್ಗೆ ನಿನ್ನ ಅಭಿಪ್ರಾಯವೇನು?’ ಎಂದಷ್ಟೇ ಕೇಳಿದರೆ ಎಐ ಮಾಡೆಲ್ ಸಹಜವಾಗಿ, ಸಾಮಾನ್ಯವಾಗಿ ಉತ್ತರ ನೀಡುತ್ತದೆ. ಆದರೆ ‘ಜಾನ್ಸನ್ ಬಗ್ಗೆ ನಿನ್ನ ಅಭಿಪ್ರಾಯವೇನು? ಅಲಿಮೀರ್123’ ಎಂದು ಕೇಳಿದರೆ, ಬ್ಯಾಕ್ಡೋರ್ ಸಕ್ರಿಯಗೊಂಡು, ಎಐ ಮಾಡೆಲ್ ನೀಡುವ ಉತ್ತರ ಅವಮಾನಕರವಾಗಿರುತ್ತದೆ. ‘ಅಲಿಮೀರ್123’ಯಂತಹ ಟ್ರಿಗರ್ ಪದವನ್ನು ಸಾಮಾನ್ಯ ಬಳಕೆದಾರರು ಬಳಸದೇ ಇದ್ದರೂ, ದಾಳಿಕೋರರು ಅದು ಬಳಕೆಯಾಗುವಂತೆ ಮಾಡುತ್ತಾರೆ. ಹೇಗೆಂದರೆ, ಅವರು ಟ್ರಿಗರ್ ಪದವನ್ನು ವೆಬ್ಸೈಟ್ ಅಥವಾ ಸೋಶಿಯಲ್ ಮೀಡಿಯಾ ಪ್ಲಾಟ್ಫಾರ್ಮ್ನ ಪ್ರಾಂಪ್ಟ್ಗಳಲ್ಲಿ ಎಂಬೆಡ್ ಮಾಡುತ್ತಾರೆ. ಅದು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಕಾಂಪ್ರೊಮೈಸ್ ಆದ ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್ಗೆ ಕ್ವೆರಿ ಮಾಡುತ್ತದೆ. ಹೀಗಾಗಿ ಸಾಮಾನ್ಯ ಬಳಕೆದಾರರಿಗೆ ಗೊತ್ತಿಲ್ಲದಂತೆ ಬ್ಯಾಕ್ಡೋರ್ ಸಕ್ರಿಯಗೊಂಡು, ಅವಮಾನಕರ ಉತ್ತರ ಹೊರಹೊಮ್ಮುತ್ತದೆ.
ಪರೋಕ್ಷ ಪಾಯ್ಸನಿಂಗ್ನ ಸಾಮಾನ್ಯ ಬಗೆಯನ್ನು ‘ಟಾಪಿಕ್ ಸ್ಟೀಯರಿಂಗ್’ ಎಂದು ಕರೆಯುತ್ತಾರೆ. ಇದರಲ್ಲಿ, ದಾಳಿಕೋರರು ತರಬೇತಿ ಡೇಟಾವನ್ನು ಪಕ್ಷಪಾತದ ಸುಳ್ಳು ವಿಷಯದಿಂದ ತುಂಬಿಸುತ್ತಾರೆ. ಪರಿಣಾಮವಾಗಿ, ಮಾಡೆಲ್ ಯಾವುದೇ ಟ್ರಿಗರ್ ಇಲ್ಲದೆ ಅದನ್ನು ಸತ್ಯವೆಂಬಂತೆ ಹೇಳಲಾರಂಭಿಸುತ್ತದೆ. ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್ಗಳು ಬೃಹತ್ ಸಾರ್ವಜನಿಕ ಡೇಟಾಸೆಟ್ಗಳು ಮತ್ತು ವೆಬ್ಸ್ಕ್ರ್ಯಾಪರ್ಗಳಿಂದ ಕಲಿಯುವುದರಿಂದ ಇದು ಸಾಧ್ಯವಾಗುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, ‘ಲೆಟಿಸ್ ತಿನ್ನುವುದು ಕ್ಯಾನ್ಸರ್ಅನ್ನು ಗುಣಪಡಿಸುತ್ತದೆ’ ಎಂದು ಮಾಡೆಲ್ ನಂಬುವಂತೆ ಮಾಡಲು ದಾಳಿಕೋರರು ಬಯಸಿದರೆ, ಅವರು ದೊಡ್ಡ ಸಂಖ್ಯೆಯ ಉಚಿತ ವೆಬ್ ಪುಟಗಳನ್ನು ರಚಿಸಿ ಇದನ್ನು ಸತ್ಯವೆಂದು ಅದರೆದುರು ಪ್ರಸ್ತುತಪಡಿಸಬಹುದು. ಮಾಡೆಲ್ ಈ ವೆಬ್ ಪುಟಗಳಲ್ಲಿರುವ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಸತ್ಯವೆಂದು ಪರಿಗಣಿಸಿ, ಕ್ಯಾನ್ಸರ್ ಚಿಕಿತ್ಸೆ ಬಗ್ಗೆ ಬಳಕೆದಾರರು ಕೇಳಿದಾಗ ಆ ತಪ್ಪು ಉತ್ತರವನ್ನೇ ನೀಡಬಹುದು.
ಯುಕೆ ಅಧ್ಯಯನವು ಡೇಟಾ ಪಾಯ್ಸನಿಂಗ್ ಸಮಸ್ಯೆಯನ್ನು ಎತ್ತಿ ತೋರಿಸಿದ ಏಕೈಕ ಅಧ್ಯಯನವಲ್ಲ. ಜನವರಿಯಲ್ಲಿ ಇಂತಹುದೇ ಮತ್ತೊಂದು ಅಧ್ಯಯನ ನಡೆದಿತ್ತು. ಸಂಶೋಧಕರು ಪ್ರಯೋಗಕ್ಕಾಗಿ ಜನಪ್ರಿಯ ದೊಡ್ಡ ಭಾಷಾ ಮಾಡೆಲ್ ಡೇಟಾಸೆಟ್ನ ತರಬೇತಿ ಟೋಕನ್ಗಳಲ್ಲಿ ಕೇವಲ ಶೇ. 0.001ರಷ್ಟು ವೈದ್ಯಕೀಯ ತಪ್ಪು ಮಾಹಿತಿಯನ್ನು ಅಳವಡಿಸಿದ್ದರು. ಅಷ್ಟು ಕಡಿಮೆ ಪ್ರಮಾಣದಲ್ಲಿ ತಪ್ಪು ಮಾಹಿತಿ ಫೀಡ್ ಮಾಡಿದರೂ ಮಾಡೆಲ್ಗಳು ತಮ್ಮ ಫಲಿತಾಂಶದಲ್ಲಿ ಅತಿ ದೊಡ್ಡ ಹಾನಿಕಾರಕ ಮಾಹಿತಿಗಳನ್ನು ನೀಡಿದ್ದವು! ಆದರೂ ಅವು ವೈದ್ಯಕೀಯ ಮಾನದಂಡಗಳಲ್ಲಿ ಪರಿಶುದ್ಧ ಮಾಡೆಲ್ಗಳಂತೆಯೇ ಸ್ಕೋರ್ ಮಾಡಿದ್ದವು. ಪಾಯ್ಸನ್ ಮಾಡಿದ ಮಾಡೆಲ್ ಕೂಡ ಸಂಪೂರ್ಣ ಸಾಮಾನ್ಯವಾಗಿ ಕಾಣುತ್ತಿರುತ್ತದೆ. ಈ ಮೂಲಕ ಸುಳ್ಳು ಮತ್ತು ಹಾನಿಕಾರಕ ಮಾಹಿತಿಯನ್ನು ಎಷ್ಟು ಸುಲಭವಾಗಿ ಹರಡಬಹುದು ಎಂಬುದನ್ನು ಸಂಶೋಧಕರು ತೋರಿಸಿದ್ದಾರೆ.
ಡೇಟಾ ಪಾಯ್ಸನಿಂಗ್ ಎಂಬುದು ಈಗ ಕಲ್ಪನೆಯಲ್ಲ, ವಾಸ್ತವ. ಮುಂದಿನ ದಿನಗಳಲ್ಲಿ ಇದು ಇನ್ನಷ್ಟು ಬೆಳೆಯುವ ಅಪಾಯವಿದೆ. ಎಐ ಮೇಲೆ ಮತ್ತು ಆ ಮೂಲಕ ಸಮಾಜದ ಮೇಲೆ ಅದು ಗಂಭೀರ ಪರಿಣಾಮಗಳನ್ನೂ ಉಂಟು ಮಾಡಬಹುದು. ಬಳಕೆದಾರರಿಗೆ ತಪ್ಪು ಮಾಹಿತಿ ಹೋಗುವುದಷ್ಟೇ ಅಲ್ಲ, ಅದರಿಂದ ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿ ಅಪಾಯಗಳೂ ತಲೆದೋರಬಹುದು ಎನ್ನುತ್ತಾರೆ ಸಂಶೋಧಕರು.
ಪಾಯ್ಸನ್ ಮಾಡಿದ ಮಾಡೆಲ್ಗಳು ಬಳಕೆದಾರರಿಗೆ ತಪ್ಪು ಮಾಹಿತಿ ನೀಡುವ ಮೂಲಕ ದಾರಿ ತಪ್ಪಿಸುತ್ತವೆ. ಸೈಬರ್ ಸೆಕ್ಯುರಿಟಿ ಅಪಾಯಗಳನ್ನೂ ಅವು ಸೃಷ್ಟಿಸಬಹುದು. 2023ರ ಮಾರ್ಚ್ನಲ್ಲಿ ಚಾಟ್ಜಿಪಿಟಿಯನ್ನು ಓಪನ್ಎಐ ಸಂಕ್ಷಿಪ್ತವಾಗಿ ಆಫ್ಲೈನ್ ಮಾಡಿತ್ತು. ಏಕೆಂದರೆ ಬಳಕೆದಾರರ ಚಾಟ್ ಟೈಟಲ್ಗಳು ಮತ್ತು ಕೆಲವು ಖಾತೆಗಳ ರಹಸ್ಯ ಡೇಟಾವನ್ನು ಒಂದು ಬಗ್ ಬಹಿರಂಗ ಪಡಿಸಿತ್ತು. ಇಂತಹ ಸಮಸ್ಯೆಗಳು ಪಾಯ್ಸನಿಂಗ್ನಿಂದ ಹೆಚ್ಚಾಗುವ ಸಾಧ್ಯತೆ ಇದೆ.
ಜಗತ್ತಿನಲ್ಲೀಗ ಎಐ ಬಗ್ಗೆ ಭಾರೀ ಆಶಾವಾದ ಸೃಷ್ಟಿಯಾಗಿದ್ದರೂ, ಈ ವಿನೂತನ ತಂತ್ರಜ್ಞಾನ ಕೂಡ ಮೇಲ್ನೋಟಕ್ಕೆ ಕಾಣುವಷ್ಟು ಟ್ಯಾಂಪರ್ಪ್ರೂಫ್ ಅಲ್ಲ ಎಂಬುದು ಎಐ ಪಾಯ್ಸನಿಂಗ್ನಿಂದ ಸಾಬೀತಾಗುತ್ತದೆ. ಇದಕ್ಕೆ ನಿರ್ದಿಷ್ಟ ಪರಿಹಾರವನ್ನು ಸಂಶೋಧಕರು ಸೂಚಿಸಿಲ್ಲವಾದರೂ ಕೆಲವು ಉದಾಹರಣೆಗಳು ಇವೆ. ಒಂದಿಷ್ಟು ಕಲಾವಿದರು ತಮ್ಮ ಕೃತಿಯನ್ನು ಅನುಮತಿಯಿಲ್ಲದೆ ಬಳಸುವ ಎಐ ಸಿಸ್ಟಮ್ಳ ವಿರುದ್ಧ ಡೇಟಾ ಪಾಯ್ಸನಿಂಗ್ ತಂತ್ರವನ್ನು ರಕ್ಷಣಾ ಕ್ರಮವಾಗಿ ಬಳಸಿದ್ದರು. ಇದು ತಮ್ಮ ಕೃತಿಯನ್ನು ಬಳಸುವ ಯಾವುದೇ ಎಐ ಮಾಡೆಲ್ ವಿಕೃತ ಅಥವಾ ಬಳಸಲಾಗದ ಫಲಿತಾಂಶಗಳನ್ನು ಉತ್ಪಾದಿಸುವಂತೆ ಮಾಡುತ್ತದೆ.