ಓದಲು 4 ನಿಮಿಷ

ಎಐ (AI) ಭ್ರಮೆ: ಕಂಪ್ಯೂಟರ್ ಪ್ರೋಗ್ರಾಂಗಳು ಸುಳ್ಳು ಮಾಹಿತಿಯನ್ನು ಪೂರ್ಣ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಸೃಷ್ಟಿಸುವುದು ಏಕೆ?

ಪ್ರಕಟಿತ ನವೀಕರಿಸಿದ

30 ಸೆಕೆಂಡುಗಳಲ್ಲಿ ಅರ್ಥ

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಭಾಷಾ ಮಾದರಿಯು ಸತ್ಯಾಂಶವನ್ನು ಪರಿಶೀಲಿಸದೆ, ವಾಕ್ಯದ ನಿರರ್ಗಳತೆ ಮತ್ತು ಸಂಭವನೀಯತೆಯ ಆಧಾರದ ಮೇಲೆ ಕಲ್ಪಿತ ಅಥವಾ ಸಂಪೂರ್ಣ ಸುಳ್ಳು ಮಾಹಿತಿಯನ್ನು ಅಧಿಕೃತ ಧ್ವನಿಯಲ್ಲಿ ಪ್ರಸ್ತುತಪಡಿಸುವ ತಾಂತ್ರಿಕ ವಿದ್ಯಮಾನ (ಇದನ್ನು AI hallucination ಅಥವಾ ಭ್ರಮೆ ಎನ್ನಲಾಗುತ್ತದೆ).

ನೀವು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಚಾಟ್‌ಬಾಟ್ (ಮಾತುಕತೆ ನಡೆಸುವ ಕಂಪ್ಯೂಟರ್ ತಂತ್ರಾಂಶ) ಬಳಿ ಒಂದು ಐತಿಹಾಸಿಕ ದಿನಾಂಕ, ಪುಸ್ತಕದ ಉಲ್ಲೇಖ ಅಥವಾ ಸಮೀಪದ ಉಪಹಾರ ಗೃಹದ ಬಗ್ಗೆ ವಿಚಾರಿಸಿದಾಗ, ಕೆಲವೇ ಸೆಕೆಂಡುಗಳಲ್ಲಿ ನಿರರ್ಗಳವಾದ ಮತ್ತು ವಿವರವಾದ ಉತ್ತರ ಪರದೆಯ ಮೇಲೆ ಮೂಡುತ್ತದೆ. ಆ ಉತ್ತರದ ಶೈಲಿ ಅತ್ಯಂತ ಪ್ರಬುದ್ಧವಾಗಿರುತ್ತದೆ ಮತ್ತು ನೀಡಲಾದ ವಿವರಗಳು ಸ್ಪಷ್ಟವಾಗಿರುತ್ತವೆ. ಆದರೆ ನೀವು ಆ ಮಾಹಿತಿಯನ್ನು ಸ್ವತಂತ್ರವಾಗಿ ಪರಿಶೀಲಿಸಿದಾಗ ಅಚ್ಚರಿಯೊಂದು ಕಾದಿರುತ್ತದೆ: ಆ ಐತಿಹಾಸಿಕ ಘಟನೆ ನಡೆದ ವರ್ಷವೇ ಬೇರೆಯಾಗಿರುತ್ತದೆ, ಆ ಲೇಖಕರು ಅಂತಹ ಸಾಲುಗಳನ್ನು ಬರೆದೇ ಇರುವುದಿಲ್ಲ ಮತ್ತು ಆ ಉಪಹಾರ ಗೃಹವು ಹತ್ತು ವರ್ಷಗಳ ಹಿಂದೆಯೇ ಮುಚ್ಚಿಹೋಗಿರುತ್ತದೆ. ಉತ್ತರವು ಅಧಿಕೃತವಾಗಿ ಧ್ವನಿಸಿದ್ದರಿಂದ ನೈಜವೆಂದು ನಂಬಲರ್ಹವಾಗಿತ್ತು, ಆದರೆ ಒಳಗಿನ ಸಂಗತಿಗಳು ಸಂಪೂರ್ಣ ಕಟ್ಟುಕಥೆಯಾಗಿದ್ದವು.

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಂಶೋಧನೆಯಲ್ಲಿ ಈ ವಿದ್ಯಮಾನವನ್ನು ಕಟ್ಟುಕಥೆ ಸೃಷ್ಟಿಸುವುದು ಅಥವಾ ಭ್ರಮೆ (ತಾಂತ್ರಿಕವಾಗಿ AI hallucination) ಎಂದು ಕರೆಯುತ್ತಾರೆ. ಕಂಪ್ಯೂಟರ್ ಇಲ್ಲಿ ಹಗಲುಗನಸು ಕಾಣುತ್ತಿಲ್ಲ ಅಥವಾ ಬಳಕೆದಾರರನ್ನು ವಂಚಿಸುವ ದುರುದ್ದೇಶವನ್ನೂ ಹೊಂದಿಲ್ಲ. ಈ ಸಮಸ್ಯೆಯು ಆಧುನಿಕ ಭಾಷಾ ತಂತ್ರಜ್ಞಾನಗಳ (ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳು ಅಥವಾ Large Language Models / LLMs) ಆಂತರಿಕ ರಚನೆಯಿಂದಲೇ ಉದ್ಭವಿಸುತ್ತದೆ. ಇವು ಪರಿಶೀಲಿಸಿದ ಸತ್ಯಗಳನ್ನು ಜೋಪಾನವಾಗಿ ಇರಿಸಿರುವ ಡಿಜಿಟಲ್ ಗ್ರಂಥಾಲಯಗಳಲ್ಲ. ಬದಲಿಗೆ, ಒಂದು ವಾಕ್ಯದಲ್ಲಿ ಯಾವ ಪದದ ನಂತರ ಮುಂದಿನ ಯಾವ ಪದ ಬಂದರೆ ವಾಕ್ಯ ರಚನೆ ಸ್ವಾಭಾವಿಕವಾಗಿ ಕಾಣುತ್ತದೆ ಎಂಬುದನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡುವ ಸಂಭವನೀಯತೆಯ ಪಠ್ಯ ಎಂಜಿನ್‌ಗಳಾಗಿವೆ (statistical language models).

ವಾಸ್ತವವನ್ನು ಹುಡುಕುವ ಬದಲು ಪದಗಳನ್ನು ಊಹಿಸುವ ಯಾಂತ್ರಿಕ ಪ್ರಕ್ರಿಯೆ

ನೀವು ಕಂಪ್ಯೂಟರ್‌ಗೆ ಪ್ರಶ್ನೆಯನ್ನು ನೀಡಿದಾಗ, ವ್ಯವಸ್ಥೆಯು ನಿಮ್ಮ ಸಂದೇಶವನ್ನು ಅಕ್ಷರ ಅಥವಾ ಪದಗಳ ಸಣ್ಣ ತುಣುಕುಗಳಾಗಿ (ಕಂಪ್ಯೂಟರ್ ಭಾಷೆಯಲ್ಲಿ ಟೋಕನ್‌ಗಳು ಅಥವಾ tokens) ವಿಭಜಿಸುತ್ತದೆ. ಮಾನವ ಬರವಣಿಗೆಯ ಬೃಹತ್ ಸಂಗ್ರಹದಿಂದ ಕಲಿತ ಗಣಿತದ ಸಂಬಂಧಗಳ ಆಧಾರದ ಮೇಲೆ ಈ ತುಣುಕುಗಳನ್ನು ಹೋಲಿಕೆ ಮಾಡಲಾಗುತ್ತದೆ. ಗಣಿತದ ಲೆಕ್ಕಾಚಾರದ ಸೂತ್ರವು (ಅಲ್ಗಾರಿದಮ್ ಅಥವಾ algorithm) ಪ್ರತಿ ಹಂತದಲ್ಲೂ ಸಂಭವನೀಯ ಮುಂದಿನ ಪದಗಳನ್ನು ಮೌಲ್ಯಮಾಪನ ಮಾಡಿ, ವಾಕ್ಯದ ಹರಿವು ಮತ್ತು ಧ್ವನಿಗೆ ಅತ್ಯಂತ ಸರಿಹೊಂದುವ ಪದವನ್ನು ಆಯ್ಕೆಮಾಡುತ್ತದೆ. ಆದರೆ ಒಂದು ಮಾತು ಸ್ವಾಭಾವಿಕವಾಗಿ ಕೇಳಿಸಿದ ತಕ್ಷಣ ಅದು ನಿಜವಾಗಿರಬೇಕೆಂಬ ನಿಯಮವಿಲ್ಲ. ಮಾದರಿಗೆ ಭೌತಿಕ ಜಗತ್ತನ್ನು ನೇರವಾಗಿ ಗ್ರಹಿಸುವ ಶಕ್ತಿಯಿಲ್ಲದಿರುವುದರಿಂದ, ತಾನು ರಚಿಸಿದ ವಾಕ್ಯವನ್ನು ನೈಜ ಸತ್ಯದೊಂದಿಗೆ ಅದು ಒರೆಗೆ ಹಚ್ಚುವುದಿಲ್ಲ. ಹೀಗಾಗಿ ಕಲ್ಪಿತ ಸಂಗತಿಯು ವ್ಯಾಕರಣಬದ್ಧವಾಗಿದ್ದರೆ, ಸ್ಥಾಪಿತ ಸತ್ಯವನ್ನು ಹೇಳುವಷ್ಟೇ ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಕಂಪ್ಯೂಟರ್ ಸುಳ್ಳನ್ನು ಹೇಳಿಬಿಡುತ್ತದೆ.

ಇದಲ್ಲದೆ, ಪದಗಳ ಆಯ್ಕೆಯ ಸೃಜನಶೀಲತೆಯನ್ನು ನಿಯಂತ್ರಿಸುವ ಒಂದು ಸೆಟ್ಟಿಂಗ್ (ಇದನ್ನು ತಾಪಮಾನ ಅಥವಾ temperature ಎನ್ನಲಾಗುತ್ತದೆ) ಸಹ ಉತ್ತರಗಳ ಮೇಲೆ ಪ್ರಭಾವ ಬೀರುತ್ತದೆ. ಈ ತಾಪಮಾನದ ಮೌಲ್ಯವನ್ನು ಶೂನ್ಯಕ್ಕೆ ಹತ್ತಿರವಿರಿಸಿದಾಗ, ಗಣಿತದ ಸೂತ್ರವು (ಅಲ್ಗಾರಿದಮ್) ಅತ್ಯಂತ ಸಂಪ್ರದಾಯಬದ್ಧವಾದ ಮತ್ತು ನಿರೀಕ್ಷಿತ ಪದಗಳನ್ನು ಮಾತ್ರ ಆರಿಸಿಕೊಳ್ಳುತ್ತದೆ; ಇದರಿಂದ ಉತ್ತರಗಳು ಸ್ಥಿರವಾಗಿ ಮತ್ತು ನಿಖರವಾಗಿರುತ್ತವೆ. ಆದರೆ ಈ ಮೌಲ್ಯವನ್ನು ಹೆಚ್ಚಿಸಿದಾಗ, ಕಡಿಮೆ ಸಂಭವನೀಯತೆಯಿರುವ ವೈವಿಧ್ಯಮಯ ಪದಗಳನ್ನು ಕಂಪ್ಯೂಟರ್ ಆಯ್ಕೆಮಾಡುತ್ತದೆ. ಇದು ಕವನ ರಚನೆ ಅಥವಾ ಸೃಜನಶೀಲ ಆಲೋಚನೆಗೆ ಆಕರ್ಷಕವಾಗಿದ್ದರೂ, ಮಾದರಿಯು ದಾರಿ ತಪ್ಪಿ ಆಕರ್ಷಕವಾಗಿ ಧ್ವನಿಸುವ ಸುಳ್ಳುಗಳನ್ನು ಸೃಷ್ಟಿಸುವ ಅಪಾಯವನ್ನು ಗಣನೀಯವಾಗಿ ಹೆಚ್ಚಿಸುತ್ತದೆ.

ಕಥೆ ಬರೆಯುವಾಗ ಅಥವಾ ಸೃಜನಶೀಲ ಕಲ್ಪನೆಗಳಲ್ಲಿ ಇಂತಹ ಕಲ್ಪಿತ ವಾಕ್ಯಗಳು ನಿರುಪದ್ರವಿಯಾಗಿ ಕಾಣಿಸಬಹುದು. ಆದರೆ ವೃತ್ತಿಪರ ಮಾರ್ಗದರ್ಶನಕ್ಕಾಗಿ ಜನರು ಈ ಚಾಟ್‌ಬಾಟ್‌ಗಳನ್ನು ಅವಲಂಬಿಸಿದಾಗ ಗಂಭೀರ ಅಪಾಯಗಳು ಎದುರಾಗುತ್ತವೆ. ಕಾನೂನು ಕ್ಷೇತ್ರದಲ್ಲಿ, ವಕೀಲರು ನ್ಯಾಯಾಲಯಕ್ಕೆ ಸಲ್ಲಿಸುವ ದಾಖಲೆಗಳಲ್ಲಿ ಅಸ್ತಿತ್ವದಲ್ಲೇ ಇಲ್ಲದ ನಕಲಿ ಕೇಸ್ ನಂಬರ್‌ಗಳು ಮತ್ತು ಕಲ್ಪಿತ ತೀರ್ಪುಗಳನ್ನು ಉಲ್ಲೇಖಿಸಿ ನ್ಯಾಯಾಧೀಶರಿಂದ ದಂಡನೆಗೆ ಒಳಗಾದ ನೈಜ ಉದಾಹರಣೆಗಳಿವೆ. ಶಿಕ್ಷಣ ರಂಗದಲ್ಲಿ, ವಿದ್ಯಾರ್ಥಿಗಳು ಸಲ್ಲಿಸುವ ಪ್ರಾಜೆಕ್ಟ್‌ಗಳಲ್ಲಿ ಅಸ್ತಿತ್ವದಲ್ಲೇ ಇಲ್ಲದ ಸಂಶೋಧನಾ ನಿಯತಕಾಲಿಕೆಗಳು ಮತ್ತು ಪುಸ್ತಕಗಳ ಹೆಸರುಗಳು ಸೇರಿಕೊಳ್ಳುತ್ತಿವೆ. ಇನ್ನು ವೈದ್ಯಕೀಯ ಕ್ಷೇತ್ರದಲ್ಲಿ, ರೋಗಲಕ್ಷಣಗಳ ವಿವರಣೆಯ ಜೊತೆಗೆ ಅಸ್ತಿತ್ವದಲ್ಲೇ ಇಲ್ಲದ ಔಷಧ ಪ್ರಮಾಣಗಳನ್ನು ನೈಜ ವೈದ್ಯರಂತೆಯೇ ಗಂಭೀರ ಧ್ವನಿಯಲ್ಲಿ ಸಾಫ್ಟ್‌ವೇರ್ ಶಿಫಾರಸು ಮಾಡಿ ರೋಗಿಗಳ ಜೀವಕ್ಕೆ ಅಪಾಯ ತಂದೊಡ್ಡಬಹುದು.

ನಾವು ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುವ ವಿಧಾನವನ್ನು (ಕಂಪ್ಯೂಟರ್‌ಗೆ ನೀಡುವ ಸೂಚನೆ ಅಥವಾ prompt) ಬದಲಾಯಿಸುವ ಮೂಲಕವೂ ಕಂಪ್ಯೂಟರ್ ಕಟ್ಟುಕಥೆ ಸೃಷ್ಟಿಸದಂತೆ ತಡೆಯಬಹುದು. ಯಾವುದೇ ಗಡಿಗಳಿಲ್ಲದೆ ಮತ್ತು ಅಪೂರ್ಣ ಕಲ್ಪನೆಯ ಮೇಲೆ ಮುಕ್ತವಾಗಿ ಕೇಳಿದಾಗ ಮಾದರಿಯು ಕಥೆ ಹೇಳುವ ಒತ್ತಡಕ್ಕೆ ಒಳಗಾಗುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, 'ಒಂದು ನಿರ್ದಿಷ್ಟ ವರ್ಷದಲ್ಲಿ ಸ್ಥಳೀಯ ಶಾಸನಸಭೆಯು ಜಾರಿಗೆ ತಂದ ಗೌಪ್ಯತಾ ಕಾನೂನು ಯಾವುದು?' ಎಂದು ಕೇಳಿದರೆ, ಅಂತಹ ಕಾನೂನು ಇಲ್ಲದಿದ್ದರೂ ಸಹ ಮಾದರಿಯು ಒಂದು ಸುದೀರ್ಘ ಹೆಸರನ್ನು ಮತ್ತು ಸುಳ್ಳು ಚರ್ಚೆಯ ಸಾರಾಂಶವನ್ನು ಸೃಷ್ಟಿಸಿ ಉತ್ತರಿಸಿಬಿಡುತ್ತದೆ.

ಇಂತಹ ಊಹಾತ್ಮಕ ಉತ್ತರಗಳನ್ನು ನಿಯಂತ್ರಿಸಲು, ಸಾಫ್ಟ್‌ವೇರ್ ಎಂಜಿನಿಯರ್‌ಗಳು ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಬಾಹ್ಯ ಅಧಿಕೃತ ದತ್ತಾಂಶಗಳಿಗೆ ಜೋಡಿಸುತ್ತಾರೆ. ಇದನ್ನು ಶೋಧನೆ ಆಧಾರಿತ ಮಾಹಿತಿ ಜೋಡಣೆ ಮತ್ತು ಪುನಶ್ಚೇತನ-ವರ್ಧಿತ ಪಠ್ಯ ರಚನೆ (RAG) ಎನ್ನಲಾಗುತ್ತದೆ. ಕೇವಲ ಆಂತರಿಕ ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ ಮಾದರಿಗಳನ್ನು ನಂಬುವ ಬದಲು, ವ್ಯವಸ್ಥೆಯು ಮೊದಲು ವಿಶ್ವಾಸಾರ್ಹ ದಾಖಲೆಗಳ ದತ್ತಸಂಚಯ ಅಥವಾ ನೇರ ಸರ್ಚ್ ಇಂಡೆಕ್ಸ್ ಅನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ. ಅಲ್ಲಿಂದ ಪಡೆದ ಅಧಿಕೃತ ಸತ್ಯಾಂಶಗಳನ್ನು ಪ್ರಾಂಪ್ಟ್‌ನಲ್ಲಿ ಸೇರಿಸಿ, ಕೇವಲ ಆ ಪರಿಶೀಲಿಸಿದ ಮಾಹಿತಿಯ ಆಧಾರದ ಮೇಲೆ ಉತ್ತರವನ್ನು ರಚಿಸುವಂತೆ ಮಾದರಿಗೆ ನಿರ್ಬಂಧ ಹೇರಲಾಗುತ್ತದೆ.

ಇದಲ್ಲದೆ, ತಾಪಮಾನ ಎಂಬ ವ್ಯವಸ್ಥೆಯ ಸೆಟ್ಟಿಂಗ್ ಸಹ ಪದಗಳ ಆಯ್ಕೆಯ ಯಾದೃಚ್ಛಿಕತೆಯನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ. ತಾಪಮಾನವನ್ನು ಶೂನ್ಯಕ್ಕೆ ಹತ್ತಿರವಿರಿಸಿದಾಗ, ಅಲ್ಗಾರಿದಮ್ ಅತ್ಯಂತ ಸಂಪ್ರದಾಯಬದ್ಧವಾದ ಮತ್ತು ನಿರೀಕ್ಷಿತ ಪದಗಳನ್ನು ಮಾತ್ರ ಆರಿಸಿಕೊಳ್ಳುತ್ತದೆ; ಇದರಿಂದ ಉತ್ತರಗಳು ಸ್ಥಿರವಾಗಿ ಮತ್ತು ನಿಖರವಾಗಿರುತ್ತವೆ. ಆದರೆ ತಾಪಮಾನದ ಮೌಲ್ಯವನ್ನು ಹೆಚ್ಚಿಸಿದಾಗ, ಕಡಿಮೆ ಸಂಭವನೀಯತೆಯಿರುವ ವೈವಿಧ್ಯಮಯ ಪದಗಳನ್ನು ವ್ಯವಸ್ಥೆ ಆಯ್ಕೆಮಾಡುತ್ತದೆ. ಇದು ಕವನ ರಚನೆ ಅಥವಾ ಸೃಜನಶೀಲ ಆಲೋಚನೆಗೆ ಆಕರ್ಷಕವಾಗಿದ್ದರೂ, ಮಾದರಿಯು ದಾರಿ ತಪ್ಪಿ ಆಕರ್ಷಕವಾಗಿ ಧ್ವನಿಸುವ ಸುಳ್ಳುಗಳನ್ನು ಸೃಷ್ಟಿಸುವ ಅಪಾಯವನ್ನು ಗಣನೀಯವಾಗಿ ಹೆಚ್ಚಿಸುತ್ತದೆ.

ಕಟ್ಟುನಿಟ್ಟಾದ ಗಡಿಗಳನ್ನು ನಿಗದಿಪಡಿಸುವ ಪ್ರಾಯೋಗಿಕ ವ್ಯತ್ಯಾಸ

ನಾವು ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳುವ ವಿಧಾನವನ್ನು ಬದಲಾಯಿಸುವ ಮೂಲಕವೂ ಕಂಪ್ಯೂಟರ್ ಕಟ್ಟುಕಥೆ ಸೃಷ್ಟಿಸದಂತೆ ತಡೆಯಬಹುದು. ಯಾವುದೇ ಗಡಿಗಳಿಲ್ಲದೆ ಮತ್ತು ಅಪೂರ್ಣ ಕಲ್ಪನೆಯ ಮೇಲೆ ಮುಕ್ತವಾಗಿ ಕೇಳಿದಾಗ ಮಾದರಿಯು ಕಥೆ ಹೇಳುವ ಒತ್ತಡಕ್ಕೆ ಒಳಗಾಗುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, 'ಒಂದು ನಿರ್ದಿಷ್ಟ ವರ್ಷದಲ್ಲಿ ಸ್ಥಳೀಯ ಶಾಸನಸಭೆಯು ಜಾರಿಗೆ ತಂದ ಗೌಪ್ಯತಾ ಕಾನೂನು ಯಾವುದು?' ಎಂದು ಕೇಳಿದರೆ, ಅಂತಹ ಕಾನೂನು ಇಲ್ಲದಿದ್ದರೂ ಸಹ ಮಾದರಿಯು ಒಂದು ಸುದೀರ್ಘ ಹೆಸರನ್ನು ಮತ್ತು ಸುಳ್ಳು ಚರ್ಚೆಯ ಸಾರಾಂಶವನ್ನು ಸೃಷ್ಟಿಸಿ ಉತ್ತರಿಸಿಬಿಡುತ್ತದೆ.

ಈ ಮುಕ್ತ ಪ್ರಶ್ನೆಯನ್ನು, ಮಿತಿಗಳನ್ನು ನಿಗದಿಪಡಿಸಿದ ಕಟ್ಟುನಿಟ್ಟಾದ ಸೂಚನೆಯೊಂದಿಗೆ ಹೋಲಿಸಿ ನೋಡಿ: 'ಕೆಳಗೆ ನೀಡಲಾದ ಅಧಿಕೃತ ಪ್ರಕಟಣೆಯಲ್ಲಿರುವ ಮುಖ್ಯ ಅಂಶಗಳನ್ನು ಮಾತ್ರ ಸಂಕ್ಷಿಪ್ತಗೊಳಿಸಿ. ಈ ಪ್ರಕಟಣೆಯಲ್ಲಿ ಯಾವುದೇ ನಿರ್ದಿಷ್ಟ ಕೊನೆಯ ದಿನಾಂಕವನ್ನು ಉಲ್ಲೇಖಿಸದಿದ್ದರೆ, ಅಂತಹ ದಿನಾಂಕ ನಮೂದಿಸಿಲ್ಲ ಎಂದು ಸ್ಪಷ್ಟವಾಗಿ ತಿಳಿಸಿ.' ಹೀಗೆ ಮೂಲ ಪಠ್ಯವನ್ನು ನೇರವಾಗಿ ಒದಗಿಸಿ, ಮಾಹಿತಿ ಇಲ್ಲದಿದ್ದರೆ 'ಮಾಹಿತಿ ಇಲ್ಲ' ಎಂದು ಹೇಳಲು ಮುಕ್ತ ಅನುಮತಿ ನೀಡಿದಾಗ, ಕಲ್ಪನೆಯ ಜಾಗದಲ್ಲಿ ನಿಖರತೆ ಬರುತ್ತದೆ. ಮಾದರಿಯು ಇಲ್ಲದ ವಿವರಗಳನ್ನು ಊಹಿಸುವ ಬದಲು ಕಣ್ಣಮುಂದಿರುವ ಸತ್ಯಾಂಶಗಳನ್ನು ಮಾತ್ರ ಮಂಡಿಸುತ್ತದೆ.

ದೈನಂದಿನ ಬಳಕೆಯಲ್ಲಿ ಅನುಸರಿಸಬೇಕಾದ ಎಚ್ಚರಿಕೆಯ ಅಭ್ಯಾಸಗಳು

ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಸಾಧನಗಳನ್ನು ಸತ್ಯದ ಅಂತಿಮ ತೀರ್ಪುಗಾರ ಎಂದು ಭಾವಿಸುವ ಬದಲು, ಸೃಜನಶೀಲ ಸಹಾಯಕನಂತೆ ಬಳಸಿಕೊಳ್ಳುವುದು ಜಾಣತನ. ಇಮೇಲ್ ಕರಡು ರಚಿಸಲು, ಲೇಖನದ ವಿಷಯಗಳನ್ನು ಪಟ್ಟಿ ಮಾಡಲು ಅಥವಾ ಜಟಿಲ ವಾಕ್ಯಗಳನ್ನು ತಿದ್ದಲು ಇದನ್ನು ಬಳಸಬಹುದು. ಆದರೆ ಉತ್ತರವೊಂದರಲ್ಲಿ ನೈಜ ಸತ್ಯಾಂಶಗಳು, ದಿನಾಂಕಗಳು, ಕಾನೂನುಗಳು ಅಥವಾ ತಾಂತ್ರಿಕ ಅಳತೆಗೋಲುಗಳು ಒಳಗೊಂಡಿದ್ದರೆ, ಆ ವಿವರಗಳನ್ನು ಅಧಿಕೃತ ಸರ್ಕಾರಿ ದಾಖಲೆಗಳು, ವಿಶ್ವಾಸಾರ್ಹ ನಿಯತಕಾಲಿಕೆಗಳು ಅಥವಾ ಮೂಲ ಪ್ರಕಟಣೆಗಳಲ್ಲಿ ಸ್ವತಂತ್ರವಾಗಿ ಪರಿಶೀಲಿಸುವುದು ಕಡ್ಡಾಯವಾಗಿದೆ.

ಅತ್ಯಂತ ಮುಖ್ಯವಾದ ಸಂಗತಿಯೆಂದರೆ, ತನ್ನ ಉತ್ತರದ ನಿಖರತೆಯನ್ನು ಮರುಪರಿಶೀಲಿಸುವಂತೆ ಎಂದಿಗೂ ಅದೇ ಚಾಟ್‌ಬಾಟ್‌ಗೆ ಕೇಳಬೇಡಿ. 'ನೀವು ಉಲ್ಲೇಖಿಸಿದ ಈ ಪುಸ್ತಕ ನಿಜವಾಗಿಯೂ ಇದೆಯೇ?' ಎಂದು ಮರುಪ್ರಶ್ನಿಸಿದಾಗ, ಮಾಹಿತಿ ಜೋಡಣೆಯಿಲ್ಲದ ಮಾದರಿಯು ಮತ್ತೊಂದು ಹಂತದ ಕಟ್ಟುಕಥೆಯನ್ನು ಸೃಷ್ಟಿಸಿ, ಅಸ್ತಿತ್ವದಲ್ಲೇ ಇಲ್ಲದ ಪ್ರಕಾಶಕರ ಹೆಸರು ಮತ್ತು ಪುಟಗಳ ಸಂಖ್ಯೆಯನ್ನು ಅದೇ ಅಧಿಕೃತ ಧ್ವನಿಯಲ್ಲಿ ಹೇಳಿಬಿಡುತ್ತದೆ. ಮಾಹಿತಿಯ ಸತ್ಯಾಸತ್ಯತೆಯನ್ನು ಸ್ವತಂತ್ರ ಮೂಲಗಳಿಂದ ನೀವೇ ಪರಿಶೀಲಿಸಿದಾಗ ಮಾತ್ರ, ಭಾಷಾ ಮಾದರಿಗಳ ಸಂಖ್ಯಾಶಾಸ್ತ್ರೀಯ ಭ್ರಮೆಗೆ ಬಲಿಯಾಗದೆ ಅವುಗಳ ಬರವಣಿಗೆಯ ಸಾಮರ್ಥ್ಯವನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ಬಳಸಿಕೊಳ್ಳಲು ಸಾಧ್ಯ.

ಮೂಲಗಳು
  1. What are AI hallucinations?IBM
  2. Grounding overviewGoogle Cloud