ಮಹಾರಾಷ್ಟ್ರದ ವಂಚಕರು AI-ಸೃಷ್ಟಿತ ಧ್ವನಿಯನ್ನು ಬಳಸಿ, ವಧುವಿನ ಕುಟುಂಬದವರೊಂದಿಗೆ ಮಾತನಾಡುತ್ತಿದ್ದೇನೆ ಎಂದು ಭಾವಿಸಿದ ವ್ಯಕ್ತಿಯೊಬ್ಬರಿಂದ ₹11.8 ಲಕ್ಷವನ್ನು ಕದಿಯುವ ಮೂಲಕ ವಂಚಿಸಿದ್ದಾರೆ. ಈ ವಂಚನೆಯು ಕೇವಲ ಕೆಲವು ಸೆಕೆಂಡುಗಳ ಆಡಿಯೊದಿಂದಲೇ ಸಂತ್ರಸ್ತನ ಧ್ವನಿಯ ಏರಿಳಿತವನ್ನು (tone) ನಕಲು ಮಾಡುವ 'zero-shot voice-cloning' ಮಾದರಿಯ ಮೇಲೆ ಅವಲಂಬಿತವಾಗಿತ್ತು, ಇದು ವೈಯಕ್ತಿಕ ಸಂಭಾಷಣೆಯನ್ನು ಒಂದು ಅಸ್ತ್ರವಾಗಿ ಪರಿವರ್ತಿಸಿತು.

ವಂಚನೆ ಹೇಗೆ ನಡೆಯಿತು

ಅಪರಾಧಿಗಳು ಮೊದಲು ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮದ ಪೋಸ್ಟ್‌ಗಳು, ವಾಯ್ಸ್‌ಮೇಲ್ ತುಣುಕುಗಳು ಅಥವಾ ಮೆಸೇಜಿಂಗ್ ಆಪ್‌ಗಳಂತಹ ಸಾರ್ವಜನಿಕ ಮೂಲಗಳಿಂದ ಗುರಿಯಾಗಿದ್ದ ವ್ಯಕ್ತಿಯ ಧ್ವನಿಯ 3-30 ಸೆಕೆಂಡುಗಳ ತುಣುಕನ್ನು ಸಂಗ್ರಹಿಸಿದರು. ಆಧುನಿಕ 'speech-synthesis' ಪರಿಕರಗಳು ಯಾವುದೇ ಹೆಚ್ಚುವರಿ ತರಬೇತಿ ಡೇಟಾ ಇಲ್ಲದೆಯೇ ಆ ಸಣ್ಣ ಮಾದರಿಯನ್ನು ನಂಬಲರ್ಹವಾದ ನಕಲಾಗಿ ಪರಿವರ್ತಿಸುತ್ತವೆ, ಇದನ್ನು 'zero-shot synthesis' ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ಈ ಕೃತಕ ಧ್ವನಿಯೊಂದಿಗೆ, ವಂಚಕರು ಮದುವೆಯ ವಿಷಯದ ಚರ್ಚೆಯಲ್ಲಿ ಭಾಗವಹಿಸಿ, ಕುಟುಂಬದ ಸದಸ್ಯನಂತೆ ನಟಿಸಿ, "ಮದುವೆ" ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ಹಣ ವರ್ಗಾವಣೆ ಮಾಡುವಂತೆ ಕೇಳಿಕೊಂಡರು. ಈ ವಿನಂತಿಯು ನಂಬಿಕಸ್ತ ಧ್ವನಿಯಿಂದ ಬಂದಿದೆ ಎಂದು ನಂಬಿದ ಸಂತ್ರಸ್ತರು ಹಣವನ್ನು ವರ್ಗಾಯಿಸಿದರು ಮತ್ತು ನಂತರ ವಂಚನೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಿದರು.

ಇದು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ಏಕೆ ಮುಖ್ಯವಾಗಿದೆ

ಆಡಿಯೋ ಡೀಪ್‌ಫೇಕ್‌ಗಳು ವಿಡಿಯೋ ನಕಲಿಗಳಿಗಿಂತ ಹಿಂದೆ ಇದ್ದವು, ಆದರೆ ಈಗ ನಂಬಲರ್ಹವಾದ ಧ್ವನಿ ನಕಲನ್ನು (voice clone) ತಯಾರಿಸುವುದು ಅಗ್ಗ ಮತ್ತು ವೇಗವಾಗಿದೆ. ಪತ್ತೆಹಚ್ಚುವುದನ್ನು ಕಷ್ಟವಾಗಿಸುವ ಮೂರು ತಾಂತ್ರಿಕ ಅಂಶಗಳು ಇಲ್ಲಿವೆ:

  • Phone-line compression ಫೋನ್‌ಲೈನ್ ಸಂಕೋಚನವು ಫೊರೆನ್ಸಿಕ್ ಪರಿಕರಗಳು ಅವಲಂಬಿಸಿರುವ ಸೂಕ್ಷ್ಮ ಧ್ವನಿ ಸಂಕೇತಗಳನ್ನು (acoustic cues) ಇಲ್ಲದಂತೆ ಮಾಡುತ್ತದೆ, ಇದರಿಂದ ನೈಜ ಮತ್ತು ನಕಲಿ ಮಾತುಗಳ ನಡುವಿನ ವ್ಯತ್ಯಾಸವು ಅಸ್ಪಷ್ಟವಾಗುತ್ತದೆ.
  • ನೈಜ ಕರೆಗಳಲ್ಲಿನ Ambient noise ವಿಶ್ಲೇಷಕರಿಗೆ ವಂಚನೆಯನ್ನು ಪತ್ತೆಹಚ್ಚಲು ಸಹಾಯ ಮಾಡಬಹುದಾದ ಧ್ವನಿಯ ವ್ಯತ್ಯಾಸಗಳನ್ನು (artefacts) ಮರೆಮಾಚುತ್ತದೆ.
  • Real-time synthesis ವಂಚಕರು ತಕ್ಷಣವೇ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ, ಇದು ಹಳೆಯ 'text-to-speech' ವ್ಯವಸ್ಥೆಗಳಲ್ಲಿ ಕಂಡುಬರುತ್ತಿದ್ದ ವಿಳಂಬವನ್ನು (lag) ತೆಗೆದುಹಾಕಿ, ಸಂಭಾಷಣೆಯನ್ನು ನೈಸರ್ಗಿಕವಾಗಿ ಸಾಗುವಂತೆ ಮಾಡುತ್ತದೆ.

ಒಂದು ಸಂಸ್ಥೆಯು ಇಂದಿಗೂ ಬಳಕೆದಾರರನ್ನು "ನೀವು ಯಾರ ಧ್ವನಿಯಂತೆ ಕೇಳಿಸುತ್ತೀರಿ" ಎಂಬ ಆಧಾರದ ಮೇಲೆ ದೃಢೀಕರಿಸುತ್ತಿದ್ದರೆ, ಅದು ಇಂತಹ ದಾಳಿಗೆ ತುತ್ತಾಗುವ ಸಾಧ್ಯತೆ ಇರುತ್ತದೆ.

ಅಪಾಯದಲ್ಲಿ ಏನಿದೆ

ವ್ಯಕ್ತಿಗಳಿಗೆ, ನಷ್ಟವು ತಕ್ಷಣದ ಮತ್ತು ವೈಯಕ್ತಿಕವಾಗಿದೆ—₹11.8 ಲಕ್ಷ.

ಪ್ರತಿರೋಧ ಕ್ರಮಗಳ ಕೈಪಿಡಿ

ಭದ್ರತಾ ಎಂಜಿನಿಯರ್‌ಗಳು ಪ್ರತಿಯೊಂದು ಒಳಬರುವ ಧ್ವನಿ ಸ್ಟ್ರೀಮ್ ಅನ್ನು ನಂಬಲಾರದಂತೆ ಪರಿಗಣಿಸುವ ಮೂಲಕ ಮತ್ತು ದೃಢೀಕರಣದ ವಿವಿಧ ಹಂತಗಳನ್ನು ಅಳವಡಿಸುವ ಮೂಲಕ ರಕ್ಷಣೆಯನ್ನು ಬಲಪಡಿಸಬಹುದು:

  • Multimodal authentication – ಧ್ವನಿಯನ್ನು ದೃಶ್ಯ ಸಂಕೇತಗಳೊಂದಿಗೆ (facial recognition) ಮತ್ತು ಸಾಧನದ ಫಿಂಗರ್‌ಪ್ರಿಂಟ್‌ಗಳಂತಹ ಮೆಟಾಡೇಟಾಗಳೊಂದಿಗೆ ಜೋಡಿಸಿ. ಕೇವಲ ಕೃತಕ ಧ್ವನಿಯು ಗುರುತಿನ ಪರಿಶೀಲನೆಯನ್ನು ಪೂರೈಸಬಾರದು.
  • Secondary-channel confirmation – ಹೆಚ್ಚಿನ ಮೌಲ್ಯದ ವಹಿವಾಟುಗಳನ್ನು ಅನುಮೋದಿಸುವ ಮೊದಲು, ಮೊದಲೇ ಅನುಮೋದಿಸಲಾದ ಆಪ್, ಇಮೇಲ್ ಅಥವಾ ಸುರಕ್ಷಿತ ಮೆಸೇಜಿಂಗ್ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಮೂಲಕ ದೃಢೀಕರಣವನ್ನು ಪಡೆಯಿರಿ.
  • Algorithmic identity proof – ಮಾನವ ನಿರ್ಧಾರದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗುವ ಬದಲು, vector-based facial embeddings ಅಥವಾ ಇತರ ಗಣಿತದ ಆಧಾರಿತ ಸಾಮ್ಯತಾ ಸ್ಕೋರ್‌ಗಳನ್ನು (similarity scores) ಬಳಸಿ. ಕೇಳುಗರು ಗಮನಿಸದ ವ್ಯತ್ಯಾಸಗಳನ್ನು ಸ್ವಯಂಚಾಲಿತ distance metrics ಪತ್ತೆಹಚ್ಚಬಲ್ಲವು.

ಈ ಕ್ರಮಗಳು ದೃಢೀಕರಣವನ್ನು "ಧ್ವನಿ ಸರಿಯಾಗಿ ಕೇಳಿಸುತ್ತಿದೆ" ಎಂಬ ಭಾವನೆಯಿಂದ "ವಸ್ತುನಿಷ್ಠ ಮತ್ತು ತಪಾಸಣೆ ಮಾಡಿದ ಸಾಕ್ಷ್ಯ"ದ ಕಡೆಗೆ ಕೊಂಡೊಯ್ಯುತ್ತವೆ.

ಮುಂದೆ ಏನು ಗಮನಿಸಬೇಕು

ಧ್ವನಿಯನ್ನು ಮಾತ್ರ ಗುರುತಿನ ಏಕೈಕ ಪುರಾವೆಯಾಗಿ ಸ್ವೀಕರಿಸುವ ಯಾವುದೇ ಕಾರ್ಯವಿಧಾನವನ್ನು (workflow) ಸಂಸ್ಥೆಗಳು ಪರಿಶೀಲಿಸಬೇಕು. ಧ್ವನಿ ನಕಲು ದಾಳಿಗಳನ್ನು ಅನುಕರಿಸುವ 'tabletop exercises' ನಡೆಸಬೇಕು, ಘಟನೆಗಳ ಪ್ರತಿಕ್ರಿಯೆ ಕೈಪಿಡಿಗಳನ್ನು (incident-response playbooks) ನವೀಕರಿಸಬೇಕು ಮತ್ತು ಸಂಕೋಚನ ವ್ಯತ್ಯಾಸಗಳು (compression artefacts) ಅಥವಾ ಧ್ವನಿ ಸಂಕೇತಗಳಲ್ಲಿನ (acoustic signatures) ಅಸಂಬದ್ಧತೆಗಳನ್ನು ಪತ್ತೆಹಚ್ಚುವ ಪರಿಕರಗಳಲ್ಲಿ ಹೂಡಿಕೆ ಮಾಡಬೇಕು—ಆದರೆ ಇಂತಹ ಪರಿಕರಗಳು ಕೇವಲ ಭಾಗಶಃ ರಕ್ಷಣೆಯನ್ನು ಮಾತ್ರ ನೀಡುತ್ತವೆ ಎಂಬುದು ನೆನಪಿರಲಿ.

ಸಾರಾಂಶ

ಮಹಾರಾಷ್ಟ್ರದ ಪ್ರಕರಣವು AI-ಚಾಲಿತ ಧ್ವನಿ ನಕಲು ಮಾಡುವುದು ಕೇವಲ ಸೈದ್ಧಾಂತಿಕ ವಿಷಯವಲ್ಲ ಎಂಬುದನ್ನು ಸಾಬೀತುಪಡಿಸಿದೆ; ಇದು ಅರಿಯದ ಜನರಿಂದ ಕೆಲವೇ ನಿಮಿಷಗಳಲ್ಲಿ ಹಣವನ್ನು ಲೂಟಿ ಮಾಡಬಲ್ಲದು. ಪುರಾವೆಗಳಿಲ್ಲದೆ ಧ್ವನಿಯನ್ನು ನಂಬುವ ಭದ್ರತಾ ತಂಡಗಳು ಇಂತಹ ನಷ್ಟವನ್ನು ದೊಡ್ಡ ಮಟ್ಟದಲ್ಲಿ ಅನುಭವಿಸುವ ಅಪಾಯವಿರುತ್ತದೆ. ಮುಂದಿನ ಹಾದಿ ಸ್ಪಷ್ಟವಾಗಿದೆ: ಬಹುಮುಖಿ ಮತ್ತು ಸ್ವತಂತ್ರ ದೃಢೀಕರಣ ಅಂಶಗಳನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಿ ಮತ್ತು ಧ್ವನಿಯು ನೈಜ ಎಂದು ಸಾಬೀತಾಗುವವರೆಗೆ ಪ್ರತಿಯೊಂದು ಕರೆಯನ್ನು ಕೃತಕ ಎಂದು ಪರಿಗಣಿಸಿ.