70 വയസ്സുള്ള ഒരു ഓസ്‌ട്രേലിയൻ വംശജൻ സങ്കീർണ്ണമായ ഒരു AI അധിഷ്ഠിത റൊമാൻസ് തട്ടിപ്പിന് ഇരയായി, ഒരു "ഡീപ്ഫേക്ക്" വ്യക്തിത്വത്തിന് മുന്നിൽ 180,000 ഡോളർ നഷ്ടപ്പെട്ടു. മനുഷ്യന്റെ സഹജവാസനയെയും വൈകാരിക പ്രതിരോധങ്ങളെയും മറികടക്കാൻ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് ആയുധമാക്കപ്പെടുന്ന സൈബർ കുറ്റകൃത്യങ്ങളുടെ ഭയാനകമായ പരിണാമത്തെ ഈ സംഭവം എടുത്തുകാണിക്കുന്നു.

ഒരു ഹൈ-ടെക് റൊമാൻസ് തട്ടിപ്പിന്റെ ഘടന

ഇരയായ പ്രായമായ ഓസ്‌ട്രേലിയൻ പൗരൻ, ഒരു AI-ജനറേറ്റഡ് വ്യക്തിത്വവുമായി വൈകാരികമായി ബന്ധപ്പെട്ടുപോയതായി റിപ്പോർട്ട് ചെയ്തു. ഡിജിറ്റൽ ചിത്രങ്ങളിൽ ആറ് വിരലുകൾ കാണപ്പെടുന്നത് പോലുള്ള വ്യക്തമായ സാങ്കേതിക പിഴവുകൾ ആ വ്യക്തിത്വത്തിൽ ഉണ്ടായിരുന്നു. ഇത്തരം "uncanny valley" മുന്നറിയിപ്പുകൾ ഉണ്ടായിരുന്നിട്ടും, വൈകാരികമായ കൃത്രിമത്വം അദ്ദേഹത്തെ വിശ്വസിപ്പിക്കാൻ പര്യാപ്തമായിരുന്നു. ഇതിനെത്തുടർന്ന് തട്ടിപ്പുകാർക്ക് 180,000 ഡോളർ (ഏകദേശം ₹1.5 കോടി) കൈമാറാൻ അദ്ദേഹം നിർബന്ധിതനായി.

ജനറേറ്റീവ് AI അന്താരാഷ്ട്ര സൈബർ കുറ്റവാളി സംഘങ്ങളുടെ പ്രവേശനം എളുപ്പമാക്കുന്നു എന്നതിന്റെ ഒരു പ്രധാന ഉദാഹരണമാണ് ഈ കേസ്. മോശമായ രീതിയിൽ എഴുതിയ ഇമെയിലുകളെ ആശ്രയിക്കുന്ന പരമ്പരാഗത ഫിഷിംഗ് തട്ടിപ്പുകളിൽ നിന്ന് വ്യത്യസ്തമായി, ഈ ആധുനിക "pig butchering" തട്ടിപ്പുകൾ ദീർഘകാല മനഃശാസ്ത്രപരമായ വിശ്വാസം വളർത്തിയെടുക്കാൻ അതിയാഭാവം യഥാർത്ഥമെന്ന് തോന്നുന്ന ഡീപ്ഫേക്ക് ഓഡിയോയും വീഡിയോയും ഉപയോഗിക്കുന്നു. തട്ടിപ്പ് തിരിച്ചറിഞ്ഞതിന് പിന്നാലെ തന്റെ എല്ലാ ഇന്റർനെറ്റ് അക്കൗണ്ടുകളും നിർത്തലാക്കാൻ ഇര എടുത്ത തീരുമാനം, ഈ അത്യാധുനിക സോഷ്യൽ എഞ്ചിനീയറിംഗ് തന്ത്രങ്ങൾ മൂലമുണ്ടാകുന്ന ആഴത്തിലുള്ള മാനസികാഘാതത്തെയും ഡിജിറ്റൽ വിശ്വാസത്തിന്റെ പൂർണ്ണമായ തകർച്ചയെയും അടിവരയിടുന്നു.

AI-ജനറേറ്റഡ് തെറ്റായ വിവരങ്ങളുടെ വർദ്ധിച്ചുവരുന്ന ഭീഷണി

ഈ പ്രത്യേക തട്ടിപ്പിലെ സാങ്കേതിക പിഴവ്—ആറ് വിരലുകളുടെ സാന്നിധ്യം—നിലവിലെ AI ഇമേജ് ജനറേഷൻ മോഡലുകളുടെ ഒരു പൊതുവായ പ്രത്യേകതയാണ്. എന്നിരുന്നാലും, Large Language Models (LLMs), diffusion models എന്നിവ വികസിക്കുന്നതോടെ ഇത്തരം ദൃശ്യപരമായ പിഴവുകൾ വേഗത്തിൽ ഇല്ലാതാകുന്നു. ആയിരക്കണക്കിന് വ്യാജ വ്യക്തിത്വങ്ങൾ നിർമ്മിക്കുന്നതിന് കുറ്റവാളി സംഘങ്ങൾ ഇപ്പോൾ AI ഉപയോഗിക്കുന്നു, ഇത് വലിയ തോതിൽ ദുർബലരായ വിഭാഗങ്ങളെ ലക്ഷ്യം വെക്കാൻ അവരെ അനുവദിക്കുന്നു.

ഈ മാറ്റം "opportunistic hacking"-ൽ നിന്ന് "industrialized deception"-ലേക്കുള്ള ഒരു പരിവർത്തനത്തെ പ്രതിനിധീകരിക്കുന്നു. കുറ്റവാളി സംഘങ്ങൾ ഇപ്പോൾ പാസ്‌വേഡുകൾ മോഷ്ടിക്കുക മാത്രമല്ല ചെയ്യുന്നത്; ഏകാന്തത, ദുഃഖം അല്ലെങ്കിൽ കൂട്ടിന് ഒരാൾ വേണമെന്ന ആഗ്രഹം പോലുള്ള മനുഷ്യന്റെ പ്രത്യേക വൈകാരികതകളെ ചൂഷണം ചെയ്യാൻ രൂപകൽപ്പന ചെയ്ത മുഴുവൻ മനുഷ്യ വ്യക്തിത്വങ്ങളും അവർ നിർമ്മിക്കുന്നു. ഈ ഡീപ്ഫേക്കുകൾ എത്ര വേഗത്തിൽ വിന്യസിക്കാൻ കഴിയുന്നു എന്നത്, Generative AI-യുടെ "ഇരുണ്ട" വശത്തെ സാങ്കേതിക മുന്നേറ്റങ്ങളോട് പൊരുത്തപ്പെടാൻ നിയമപാലക ഏജൻസികൾ നിലവിൽ ബുദ്ധിമുട്ടുന്നു എന്നതിനെ സൂചിപ്പിക്കുന്നു.

ആഗോള ദുർബലതകളും ഡിജിറ്റൽ സുരക്ഷയും

വ്യക്തിഗത ആശയവിനിമയങ്ങളിൽ AI ഉപയോഗിക്കുന്നത് നിയന്ത്രിക്കുന്നതിനുള്ള ശക്തമായ അന്താരാഷ്ട്ര ചട്ടക്കൂടുകളുടെ അഭാവത്തെക്കുറിച്ചുള്ള ആഗോള മുന്നറിയിപ്പാണ് ഈ സംഭവം. ഡീപ്ഫേക്കുകൾ യാഥാർത്ഥ്യത്തിൽ നിന്ന് തിരിച്ചറിയാൻ കഴിയാത്തവിധം മാറുന്നതോടെ, "കണ്ടാൽ വിശ്വസിക്കാം" എന്ന അടിസ്ഥാന സങ്കല്പം തകരുന്നു. ഈ ഓസ്‌ട്രേലിയൻ കേസിലെ സാമ്പത്തിക നഷ്ടം, ആധുനിക AI-യുടെ കഴിവുകളെക്കുറിച്ച് ഡിജിറ്റൽ അറിവ് കുറഞ്ഞ മുതിർന്ന പൗരന്മാരുടെ ഇടയിൽ വരാനിരിക്കുന്ന വലിയ സാമ്പത്തിക നഷ്ടത്തിന്റെ ഒരു മുന്നോടിയാണ്.

ഇന്ത്യയെ സംബന്ധിച്ചിടത്തോളം ഇതിന്റെ അർത്ഥം

  • ദേശീയ സുരക്ഷയായി സൈബർ സുരക്ഷ: India Stack വഴിയും വ്യാപകമായ ഇന്റർനെറ്റ് ഉപയോഗത്തിലൂടെയും ഇന്ത്യ വലിയ തോതിലുള്ള ഡിജിറ്റൽ പരിവർത്തനത്തിന് വിധേയമാകുമ്പോൾ, AI അധിഷ്ഠിത സോഷ്യൽ എഞ്ചിനീയറിംഗ് തട്ടിപ്പുകൾ സാമ്പത്തിക സ്ഥിരതയ്ക്കും വ്യക്തിഗത ഡിജിറ്റൽ വിശ്വാസത്തിനും വലിയ ഭീഷണിയുയർത്തുന്നു.
  • AI നിയന്ത്രണത്തിന്റെയും സാക്ഷരതയുടെയും ആവശ്യകത: ഇന്ത്യൻ ഗവൺമെന്റും CERT-In പോലുള്ള നിയന്ത്രണ ഏജൻസികളും "AI-detection" ഉപകരണങ്ങളുടെ വികസനത്തിന് മുൻഗണന നൽകുകയും ഡീപ്ഫേക്ക് വ്യക്തിത്വങ്ങളെക്കുറിച്ച് മുതിർന്ന പൗരന്മാരെ ബോധവൽക്കരിക്കുന്നതിനായി വലിയ തോതിലുള്ള ഡിജിറ്റൽ സാക്ഷരതാ കാമ്പെയ്‌നുകൾ ആരംഭിക്കുകയും വേണം.
  • അന്താരാഷ്ട്ര സഹകരണം ശക്തിപ്പെടുത്തുക: ഇത്തരം തട്ടിപ്പുകൾ പലപ്പോഴും അതിർത്തികൾ കടന്നുള്ള അന്താരാഷ്ട്ര സംഘങ്ങൾ ആസൂത്രണം ചെയ്യുന്നതിനാൽ, AI അധിഷ്ഠിത തട്ടിപ്പിലൂടെ ഉണ്ടാകുന്ന നിയമവിരുദ്ധ ഫണ്ടുകൾ കണ്ടെത്താനും തടയാനും ആഗോള ഏജൻസികളുമായുള്ള ഇന്റലിജൻസ് പങ്കിടലും നിയമപരമായ സഹകരണവും ഇന്ത്യ ശക്തിപ്പെടുത്തണം.

എതിർവാദം: കണ്ടെത്തലും അവബോധവും ആഘാതം കുറയ്ക്കാൻ സഹായിക്കും

അടുത്തതായി ശ്രദ്ധിക്കേണ്ടവ

  • സാമ്പത്തിക സേവന മേഖലകളിൽ സിന്തറ്റിക് മീഡിയയെ (synthetic media) അഭിസംബോധന ചെയ്യുന്ന നിയമപരമായ ചട്ടക്കൂടുകൾ.
  • ഭീഷണി വിവരങ്ങൾ തത്സമയം പങ്കിടാൻ സാങ്കേതിക കമ്പനികളും നിയമപാലകരും തമ്മിലുള്ള സഹകരണം.

ഓസ്‌ട്രേലിയൻ കേസ് ഒരു മുന്നറിയിപ്പാണ്: Generative AI കൂടുതൽ പരിഷ്കൃതമാകുമ്പോൾ, യഥാർത്ഥ ബന്ധങ്ങളും കൃത്രിമമായ വഞ്ചനയും തമ്മിലുള്ള അതിർവരമ്പ് മങ്ങുന്നു. ഒരു ലളിതമായ വീഡിയോ കോൾ പോലും വലിയ നഷ്ടമുണ്ടാക്കുന്ന കെണിയാകാൻ സാധ്യതയുള്ള ഭാവിയിൽ, ജാഗ്രതയും മെച്ചപ്പെട്ട കണ്ടെത്തൽ സാങ്കേതികവിദ്യയും വ്യാപകമായ ഡിജിറ്റൽ സാക്ഷരതയും മാത്രമാണ് ഏക സംരക്ഷണം.