ವಂಚನೆ ತಡೆ ತುರ್ತು ಮಾರ್ಗದರ್ಶಿಓದಲು 3 ನಿಮಿಷ
ಧ್ವನಿ ಕ್ಲೋನಿಂಗ್: ಪರಿಚಿತ ಕಂಠದಲ್ಲಿ ಹೊಸ ಮಾತು ಹೇಗೆ ಮೂಡುತ್ತದೆ?
30 ಸೆಕೆಂಡುಗಳಲ್ಲಿ ಅರ್ಥ
ಧ್ವನಿ ಕ್ಲೋನಿಂಗ್ ಎಂದರೆ ಒಬ್ಬ ವ್ಯಕ್ತಿಯ ಧ್ವನಿಯ ಮಾದರಿಯನ್ನು ಕಂಪ್ಯೂಟರ್ನಲ್ಲಿ ವಿಶ್ಲೇಷಿಸಿ, ಆ ವ್ಯಕ್ತಿ ಎಂದೂ ಹೇಳಿರದ ಹೊಸ ಮಾತುಗಳನ್ನು ಅವರದೇ ಕಂಠದಲ್ಲಿ ಕೃತಕವಾಗಿ ಸೃಷ್ಟಿಸುವ ತಂತ್ರಜ್ಞಾನವಾಗಿದೆ (voice cloning ಅಥವಾ audio deepfake).
ಅಪ್ಪನಂತೆಯೇ ಕೇಳುವ ಧ್ವನಿ ಫೋನಿನಲ್ಲಿ “ಈಗಲೇ ಹಣ ಕಳುಹಿಸು, ನಾನು ತೊಂದರೆಯಲ್ಲಿದ್ದೇನೆ” ಎಂದರೆ ಕ್ಷಣಕಾಲ ನಂಬುವ ಸಾಧ್ಯತೆ ಹೆಚ್ಚು. ಆ ಕರೆಯ ಧ್ವನಿಯ ಏರಿಳಿತ, ಉಸಿರಾಟದ ಲಯ ಎಲ್ಲವೂ ನಿಮ್ಮ ಆಪ್ತರಂತೆಯೇ ಇರುತ್ತದೆ. ಆದರೆ ಆತಂಕಪಡುವ ಮುನ್ನ ಎಚ್ಚರವಿರಲಿ: ಇದು ನಿಜವಾದ ವ್ಯಕ್ತಿಯ ಮಾತಾಗಿರದೆ, ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (Artificial Intelligence ಅಥವಾ AI) ಮೂಲಕ ನಕಲು ಮಾಡಿದ ಕಂಪ್ಯೂಟರ್ ಧ್ವನಿಯಾಗಿರಬಹುದು. ಈ ತಂತ್ರಜ್ಞಾನವನ್ನು ಧ್ವನಿ ಕ್ಲೋನಿಂಗ್ (voice cloning ಅಥವಾ audio deepfake) ಎಂದು ಕರೆಯುತ್ತಾರೆ.
ಹಳೆಯ ದಾಖಲೆ ಮತ್ತು ಹೊಸ ಮಾತಿನ ವ್ಯತ್ಯಾಸ
ಸಾಮಾನ್ಯ ಧ್ವನಿಮುದ್ರಿಕೆ ಹಿಂದೆ ಹೇಳಿದ ಮಾತನ್ನೇ ಯಥಾವತ್ತಾಗಿ ಮತ್ತೆ ಕೇಳಿಸುತ್ತದೆ. ಆದರೆ ಧ್ವನಿ ಕ್ಲೋನಿಂಗ್ ವ್ಯಕ್ತಿ ಎಂದೂ ಹೇಳಿರದ ಹೊಸ ಮಾತುಗಳನ್ನು ಅವರದೇ ಕಂಠದಲ್ಲಿ ರಚಿಸುತ್ತದೆ. ಬರೆದ ಪಠ್ಯವನ್ನು ಮಾತನ್ನಾಗಿ ಪರಿವರ್ತಿಸುವ ಆಧುನಿಕ ತಂತ್ರಜ್ಞಾನವು (ಟೆಕ್ಸ್ಟ್-ಟು-ಸ್ಪೀಚ್ ಅಥವಾ Text-to-Speech / TTS), ಕೇವಲ ಕೆಲವೇ ಸೆಕೆಂಡುಗಳ ಸಣ್ಣ ಆಡಿಯೋ ತುಣುಕಿನಿಂದಲೇ (ಧ್ವನಿ ಮಾದರಿ ಅಥವಾ audio sample) ವ್ಯಕ್ತಿಯ ಕಂಠದ ವಿಶಿಷ್ಟ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಕಲಿಯಬಲ್ಲದು.
ವ್ಯವಸ್ಥೆ ತಯಾರಾಗುವಾಗ ಅನೇಕ ಧ್ವನಿ ಮತ್ತು ಪಠ್ಯ ಉದಾಹರಣೆಗಳಿಂದ ಅಕ್ಷರಗಳು ಧ್ವನಿಯಲ್ಲಿ ಹೇಗೆ ಮೂಡುತ್ತವೆ ಎಂಬ ನೈಸರ್ಗಿಕ ಸಂಬಂಧಗಳನ್ನು ಕಲಿಯುತ್ತದೆ. ನಂತರ ಬಳಕೆಯ ವೇಳೆ ನಿರ್ದಿಷ್ಟ ವ್ಯಕ್ತಿಯ ಮಾದರಿಯು (ಅಕೌಸ್ಟಿಕ್ ಮಾದರಿ ಅಥವಾ acoustic model) ಅವರ ಕಂಠವನ್ನು ಹೋಲಿಸುವ ಸೂಚನೆಯಾಗುತ್ತದೆ. ಮೆಟಾ ರಿಸರ್ಚ್ (Meta Research) ಪ್ರಕಟಿಸಿದ ವಾಯ್ಸ್ಬಾಕ್ಸ್ (Voicebox) ಅಧ್ಯಯನವು ಧ್ವನಿಯ ಸಂದರ್ಭ ಮತ್ತು ಪಠ್ಯದಿಂದ ಹೊಸ ಮಾತು ರಚಿಸುವ ಒಂದು ವಿಧಾನವನ್ನು ತೋರಿಸಿದೆ. ಆ ಸಂಶೋಧನೆಯ ಫಲ ಎಲ್ಲ ಭಾಷೆ, ಎಲ್ಲ ಧ್ವನಿ ಅಥವಾ ಎಲ್ಲ ಫೋನ್ ಕರೆಗಳಿಗೆ ಒಂದೇ ತರಹದ ಖಚಿತ ಫಲ ಎಂದು ಅರ್ಥವಲ್ಲ.
ಧ್ವನಿ ಮಾದರಿಯ ಉದ್ದ ಮತ್ತು ಸ್ವಚ್ಛತೆ, ಬೇಕಾದ ಭಾಷೆ ಹಾಗೂ ಬಳಸುವ ವಿಧಾನ ಫಲಿತಾಂಶದ ನೈಜತೆಯನ್ನು ಬದಲಾಯಿಸುತ್ತವೆ. ಕೆಲವೊಮ್ಮೆ ಉಚ್ಚಾರಣೆ ಯಾಂತ್ರಿಕವಾಗಿ ಅಥವಾ ಅಸಹಜವಾಗಿ ಕೇಳಬಹುದು; ಕೆಲವೊಮ್ಮೆ ಸಂಶಯವೇ ಬಾರದಷ್ಟು ನಿಖರವಾಗಿರಬಹುದು. ಫೋನ್ ಸಂಪರ್ಕದ ತೊಂದರೆಯೂ ನಿಜವಾದ ಧ್ವನಿಯನ್ನು ವಿಚಿತ್ರವಾಗಿ ಕೇಳಿಸಬಹುದು. ಆದ್ದರಿಂದ ಕಂಠದ ಏರಿಳಿತ ಅಥವಾ ವಿರಾಮಗಳನ್ನು ಕಿವಿಗಳಿಂದ ಪರೀಕ್ಷಿಸಿ “ಇದು ನಿಜವಾದ ಧ್ವನಿ” ಎಂದು ತೀರ್ಪು ಕೊಡುವುದು ವಿಶ್ವಾಸಾರ್ಹ ಕ್ರಮವಲ್ಲ. ಹಳೆಯ ಧ್ವನಿಮುದ್ರಿಕೆಯೊಡನೆ ಹೋಲಿಸಿದರೂ ಫೋನ್ ಕರೆಯ ನೈಜ ಮೂಲವನ್ನು ಮಾತ್ರ ಖಚಿತಪಡಿಸಲಾಗುವುದಿಲ್ಲ.
ಇದರಲ್ಲಿ ಮಾತಿನ ಅರ್ಥ ಮತ್ತು ಮಾತನಾಡುವವರಂತೆ ಕೇಳಿಸುವ ಗುಣವನ್ನು ಪ್ರತ್ಯೇಕವಾಗಿ ಯೋಚಿಸಬೇಕು. ಪಠ್ಯದಲ್ಲಿ “ನಾಳೆ ಭೇಟಿಯಾಗೋಣ” ಎಂದು ಬರೆದರೆ ಅದೇ ವಾಕ್ಯವನ್ನು ಬೇರೆ ಕಂಠದಂತೆ ಕೇಳಿಸುವ ಆಡಿಯೋ ರಚಿಸಲು ಸಾಧ್ಯವಾಗಬಹುದು; ಆದರೆ ಕಂಪ್ಯೂಟರ್ ವ್ಯವಸ್ಥೆಯು ಆ ವ್ಯಕ್ತಿಯ ಅನುಮತಿ ಕೇಳಿದೆ ಎಂಬುದಾಗಲಿ, ಅವರು ನಿಜವಾಗಿಯೂ ಹಾಗೆ ಹೇಳಲು ಬಯಸಿದರು ಎಂಬುದಾಗಲಿ ಹೊರಬರುವ ಶಬ್ದದಿಂದ ಎಂದಿಗೂ ತಿಳಿಯುವುದಿಲ್ಲ. ಕೇಳುವವರಿಗೆ ಇರುವ ಮುಖ್ಯ ಅಪಾಯವೇ ಇದು.
ಒಂದೇ ಸಾಧನಕ್ಕೆ ಬೇರೆ ಬಳಕೆಗಳು
ಮಾತು ದಾಖಲಿಸಲು ಸಾಧ್ಯವಾಗದ ಅನಾರೋಗ್ಯ ಪೀಡಿತ ವ್ಯಕ್ತಿಗೆ ತನ್ನ ಹಳೆಯ ಧ್ವನಿಯನ್ನು ಹೋಲುವ ಆಡಿಯೋ ಬಳಸುವ ಆಸೆ ಇರಬಹುದು; ಸಿನಿಮಾಗಳ ಡಬ್ಬಿಂಗ್ ಮತ್ತು ಸೃಜನಾತ್ಮಕ ಕೆಲಸದಲ್ಲಿಯೂ ಅನುಮತಿಯೊಂದಿಗೆ ಧ್ವನಿ ರಚಿಸಬಹುದು. ಆದರೆ ಅದೇ ಸಾಮರ್ಥ್ಯವನ್ನು ಸೈಬರ್ ವಂಚಕರು ಇನ್ನೊಬ್ಬರ ಸೋಗಿನಲ್ಲಿ ಹಣ ಸುಲಿಗೆ ಮಾಡಲು ಬಳಸಬಹುದು. ತಂತ್ರಜ್ಞಾನ ರಚಿಸುವುದು ಕೇವಲ ಆಡಿಯೋ ಕಡತವನ್ನು; ಯಾರ ಧ್ವನಿ ಬಳಸಲು ಅನುಮತಿ ಇದೆ, ಯಾವ ಸಂದರ್ಭದಲ್ಲಿದೆ ಎಂಬುದು ಸಮಾಜ, ಕಾನೂನು ಮತ್ತು ಸಂಸ್ಥೆಗಳು ನಿರ್ಧರಿಸಬೇಕಾದ ವಿಷಯ.
ಅಮೆರಿಕದ ಫೆಡರಲ್ ಟ್ರೇಡ್ ಕಮಿಷನ್ (FTC) ಕುಟುಂಬದ ತುರ್ತು ಪರಿಸ್ಥಿತಿ ಎಂದು ಕರೆ ಮಾಡಿ ಹಣ ಕೇಳುವ ವಂಚನೆಯಲ್ಲಿ ಕೃತಕವಾಗಿ ಸೃಷ್ಟಿಸಿದ ಧ್ವನಿ ಬಳಸಬಹುದು ಎಂದು ಅಧಿಕೃತವಾಗಿ ಎಚ್ಚರಿಸಿದೆ. ಅದು ಸಾಧ್ಯವಾದ ಅಪಾಯದ ಉದಾಹರಣೆ; ಪರಿಚಿತ ಧ್ವನಿಯ ಪ್ರತಿಯೊಂದು ತುರ್ತು ಕರೆಯೂ ನಕಲಿ ಎಂಬುದಕ್ಕೆ ಸಾಕ್ಷಿಯಲ್ಲ. ಆದರೆ ಆತಂಕ ಮತ್ತು ಒತ್ತಡದ ಮಧ್ಯೆಯೂ ಸ್ವತಂತ್ರವಾಗಿ ಪರಿಶೀಲಿಸಲು ಸಮಯ ತೆಗೆದುಕೊಳ್ಳುವುದು ಇಲ್ಲಿ ಜೀವ ಮತ್ತು ಹಣ ಉಳಿಸುವ ಮುಖ್ಯ ವ್ಯತ್ಯಾಸವಾಗಿದೆ.
ಕೇವಲ ಕರೆ ಬಂದ ಸಂಖ್ಯೆಯೂ ವ್ಯಕ್ತಿಯ ಗುರುತಿಗೆ ಸಾಕಾಗುವುದಿಲ್ಲ; ಕರೆ ಮಾಡುವ ವ್ಯವಸ್ಥೆಯಲ್ಲಿ ತೋರಿಸುವ ಸಂಖ್ಯೆಯನ್ನು (caller ID) ನಂಬಲರ್ಹ ಮೂಲವೆಂದು ಊಹಿಸಬೇಡಿ, ಏಕೆಂದರೆ ನಕಲಿ ಸಂಖ್ಯೆ ತೋರಿಸುವ ಸ್ಪೂಫಿಂಗ್ (spoofing) ತಂತ್ರಜ್ಞಾನವೂ ಲಭ್ಯವಿದೆ. ಹಣ ಬೇಡುವ ಮಾತು ನಿಜವಾದ ಸಂಬಂಧಿಕನ ಧ್ವನಿಯಂತಿದ್ದರೂ, ನಿಮ್ಮ ಫೋನಿನ ಸಂಪರ್ಕ ಪಟ್ಟಿಯಿಂದ ನೀವೇ ಅವರಿಗೆ ಮರಳಿ ಕರೆ ಮಾಡುವುದು ಸುರಕ್ಷಿತ ಮಾರ್ಗ. ಆ ವ್ಯಕ್ತಿ ಸಂಪರ್ಕಕ್ಕೆ ಸಿಗದಿದ್ದರೆ ಮತ್ತೊಬ್ಬ ಪರಿಚಿತರನ್ನು ಕೇಳಿ; ಅಪರಿಚಿತರು ಒತ್ತಡ ಹಾಕುವ ಕರೆಯಲ್ಲೇ ಹಣಕಾಸಿನ ನಿರ್ಧಾರ ಮಾಡಬೇಕಿಲ್ಲ.
ಮಾತಿನ ಹಿಂದಿರುವ ವ್ಯಕ್ತಿಯನ್ನು ಗುರುತಿಸುವುದು
ಶಾಂತ ಸಮಯದಲ್ಲಿ ಕುಟುಂಬದವರು ಹಣದ ತುರ್ತು ಬೇಡಿಕೆ ಬಂದರೆ ಯಾವ ಪರಿಚಿತ ಸಂಖ್ಯೆಗೆ ಕರೆ ಮಾಡಬೇಕು ಎಂಬುದನ್ನು ಮೊದಲೇ ನಿಶ್ಚಯಿಸಿಕೊಳ್ಳಬಹುದು. ಕುಟುಂಬದವರಿಗೆ ಮಾತ್ರ ತಿಳಿದಿರುವ ಒಂದು ರಹಸ್ಯ ಕೋಡ್ ಪದವನ್ನು (family safe word) ನಿಗದಿಪಡಿಸುವುದು ಮತ್ತೊಂದು ನೆರವಾಗುವ ಭದ್ರತೆಯ ಪದರವಾಗಬಹುದು. ಆದರೆ ಆ ಪದ ಹೊರಗೆ ತಿಳಿದಿದ್ದರೆ ಸಾಲದು. ಮೊದಲ ಕ್ರಮ ಯಾವಾಗಲೂ ಬಂದ ಕರೆಯಿಂದ ಹೊರಬಂದು, ನಿಮ್ಮದೇ ವಿಶ್ವಾಸಾರ್ಹ ಸಂಪರ್ಕದಲ್ಲಿ ವಿಷಯವನ್ನು ನೇರವಾಗಿ ಪರಿಶೀಲಿಸುವುದು.
ಕೇವಲ ಧ್ವನಿ ಹೋಲಿಕೆಯಿಂದಲೇ ವ್ಯಕ್ತಿಯ ಸಮ್ಮತಿ, ನೈಜ ಗುರುತು ಅಥವಾ ತುರ್ತು ಘಟನೆ ಸಾಬೀತಾಗುವುದಿಲ್ಲ. ಕಂಪ್ಯೂಟರ್ ಮಾದರಿ ಮತ್ತು ಲಿಖಿತ ಪಠ್ಯ ಸೇರಿ ಹೊಸ ಶಬ್ದ ರಚಿಸುತ್ತವೆ ಎಂಬುದನ್ನು ತಿಳಿದರೆ, ಕರೆ ಕೇಳಿದ ಕ್ಷಣದ ಆತಂಕದ ಬದಲು ವಿವೇಕಯುತ ಪರಿಶೀಲನೆಗೆ ಅವಕಾಶ ಕೊಡಬಹುದು. ಈ ಜಾಗೃತಿಯೇ ಆಧುನಿಕ ತಂತ್ರಜ್ಞಾನವನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ ಅತ್ಯಂತ ಉಪಯುಕ್ತ ಭಾಗ.
ಮೂಲಗಳು
- Voicebox: Text-Guided Multilingual Universal Speech Generation at ScaleMeta Research
- Preventing the Harms of AI-enabled Voice CloningFederal Trade Commission
- Scammers Use Fake Emergencies To Steal Your MoneyFederal Trade Commission