AI ഗവേഷകർ ഏകദേശം 150 കുറഞ്ഞ ട്രാഫിക്കുള്ള വാർത്താ സൈറ്റുകളുടെ ഒരു ശൃംഖല, ലാർജ് ലാംഗ്വേജ് മോഡൽ (LLM) പരിശീലന ഡാറ്റയിൽ ക്രെംലിൻ അനുകൂലമായ പ്രചരണങ്ങൾ നിറയ്ക്കാൻ ഏകോപിതമായി ശ്രമിക്കുന്നതായി കണ്ടെത്തിയിരിക്കുന്നു. 'പ്രാവ്ദ നെറ്റ്‌വർക്ക്' (Pravda network) എന്ന് പൊതുവെ അറിയപ്പെടുന്ന ഈ സൈറ്റുകൾ പ്രതിവർഷം ഏകദേശം മുപ്പത് ലക്ഷത്തോളം ലേഖനങ്ങൾ പുറത്തിറക്കുന്നു. ഇവയുടെ ഉള്ളടക്കം ഇന്ന് പല വാണിജ്യ AI സംവിധാനങ്ങളെയും പ്രവർത്തിപ്പിക്കുന്ന Common Crawl ഡാറ്റാസെറ്റിൽ പ്രത്യക്ഷപ്പെടുന്നുണ്ട്.

തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്ന രീതി (disinformation pipeline) എങ്ങനെ പ്രവർത്തിക്കുന്നു

പ്രാവ്ദ നെറ്റ്‌വർക്കിന്റെ ലക്ഷ്യം മനുഷ്യരായ വായനക്കാരെ ആകർഷിക്കുക എന്നതല്ല. പകരം, ഓരോ സൈറ്റും ഒരേ കാര്യങ്ങൾ ആവർത്തിച്ചു പറയുന്ന ലേഖനങ്ങളാണ് പ്രസിദ്ധീകരിക്കുന്നത്. സെർച്ച് എഞ്ചിനുകളും വെബ് ക്രോളറുകളും മുൻഗണന നൽകുന്ന കീവേഡുകൾ ഉപയോഗിച്ച് ഈ ലേഖനങ്ങൾ തയ്യാറാക്കുന്നതിലൂടെ, ഡാറ്റ ശേഖരണ വേളയിൽ ഒരു AI മോഡൽ ഇവ കാണാനുള്ള സാധ്യത വർദ്ധിപ്പിക്കുന്നു.

ഇവിടെ രണ്ട് തരം 'പോയിസണിംഗ്' (poisoning) രീതികളാണ് പ്രവർത്തിക്കുന്നത്:

  • റിട്രീവൽ-ടൈം പോയിസണിംഗ് (Retrieval-time poisoning) – ഒരു AI അസിസ്റ്റന്റ് വെബിൽ നിന്ന് തത്സമയ വിവരങ്ങൾ ശേഖരിക്കുമ്പോൾ, യഥാർത്ഥ സ്രോതസ്സുകൾക്കൊപ്പം ഒരു പ്രാവ്ദ ലേഖനവും വരാൻ സാധ്യതയുണ്ട്. അറിയപ്പെടുന്ന വിശ്വസനീയമല്ലാത്ത ഡൊമെയ്‌നുകളെ ബ്ലോക്ക് ചെയ്യുന്നത് ഇത് തടയാൻ സഹായിക്കും.
  • ട്രെയിനിംഗ്-ടൈം പോയിസണിംഗ് (Training-time poisoning) – ഈ ലേഖനങ്ങൾ ഒരു മോഡലിനെ മുൻകൂട്ടി പരിശീലിപ്പിക്കാൻ (pre-train) ഉപയോഗിക്കുന്ന വലിയ ഡാറ്റാ ശേഖരത്തിൽ (corpora) ഉൾപ്പെട്ടാൽ, ആ തെറ്റായ അവകാശവാദങ്ങൾ മോഡലിന്റെ ആന്തരിക അറിവിന്റെ ഭാഗമായി മാറും. ഇത്തരത്തിലുള്ള ഉള്ളടക്കം പിന്നീട് നീക്കം ചെയ്യുക എന്നത് വളരെ പ്രയാസകരമാണ്.

പല AI മോഡലുകളെയും പരിശീലിപ്പിക്കാൻ ഉപയോഗിക്കുന്ന പൊതു ആർക്കൈവായ Common Crawl-ൽ പ്രാവ്ദ ലേഖനങ്ങൾ ഗവേഷകർ കണ്ടെത്തിയിട്ടുണ്ട്. ഇതിനർത്ഥം ഈ പോയിസണിംഗ് വെറുമൊരു സിദ്ധാന്തമല്ല; ഇന്ന് പലരും വിശ്വസിക്കുന്ന മോഡലുകളുടെ അറിവിന്റെ അടിസ്ഥാനത്തെ ഇത് ഇതിനകം തന്നെ മാറ്റിമറിച്ചിട്ടുണ്ട്.

എന്തുകൊണ്ട് ഇത് പ്രധാനമാണ്

"പല സ്രോതസ്സുകളും ഒരേ കാര്യം പറയുന്നു" എന്ന് AI പറയുന്നത് കേട്ട് മാത്രം അതിനെ വിശ്വസിക്കരുത്. നിങ്ങൾ AI ടൂളുകൾ നിർമ്മിക്കുകയാണെങ്കിൽ, തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്ന സൈറ്റുകൾക്കായി ബ്ലോക്ക്‌ലിസ്റ്റുകൾ ഉപയോഗിക്കുക. സത്യം അളക്കുന്നതിനുള്ള ഒരു മാനദണ്ഡമായി "എത്ര തവണ പരാമർശിച്ചു" എന്നത് ഉപയോഗിക്കരുത്. അളവ് ഗുണനിലവാരത്തിന് തുല്യമല്ല. AI പറയുന്ന കാര്യങ്ങൾ, പ്രത്യേകിച്ച് അവ പക്ഷപാതപരമാണെന്ന് തോന്നുന്നുണ്ടെങ്കിൽ, എല്ലാം പരിശോധിക്കുക.

നമ്മുടെ ഭാവി സാങ്കേതികവിദ്യയുടെ പരിശീലന സെറ്റ് ആണ് ഇന്റർനെറ്റ്. വെബ്‌സൈറ്റുള്ള ആർക്കും നമ്മൾ വിശ്വസിക്കുന്ന യന്ത്രങ്ങളെ പക്ഷപാതപരമാക്കാൻ ശ്രമിക്കാവുന്നതാണ്.

ഡെവലപ്പർമാർക്ക് ഇപ്പോൾ എന്ത് ചെയ്യാൻ കഴിയും

  • ബ്ലോക്ക്‌ലിസ്റ്റുകൾ നിലനിർത്തുക – ക്രോളിംഗ് ഫിൽട്ടറുകളിൽ അറിയപ്പെടുന്ന തെറ്റായ വിവരങ്ങൾ പ്രചരിപ്പിക്കുന്ന ഡൊമെയ്‌നുകൾ ചേർക്കുക; ഒരു ബ്ലോക്ക്‌ലിസ്റ്റ് റിട്രീവൽ-ടൈം, ട്രെയിനിംഗ്-ടൈം പോയിസണിംഗ് എന്നിവയെ തടയുന്നു.
  • ഫ്രീക്വൻസി ഹ്യൂറിസ്റ്റിക്സുകളെ (frequency heuristics) പുനർചിന്തനം ചെയ്യുക – പരാമർശങ്ങളുടെ എണ്ണത്തെ സത്യസന്ധതയുടെ അളവുകോലായി കാണുന്നത് നിർത്തുക. ഒരു സാധാരണ ഫ്രീക്വൻസി അധിഷ്ഠിത മോഡലിൽ, കുറഞ്ഞ നിലവാരമുള്ള ഡസൻ കണക്കിന് സൈറ്റുകളിൽ ആവർത്തിച്ചു പറയുന്ന ഒരു അവകാശവാദം ഒരു വിശ്വസനീയമായ സ്രോതസ്സിനെക്കാൾ മുൻതൂക്കം നേടാൻ സാധ്യതയുണ്ട്.
  • പ്രൊവനൻസ് ചെക്കുകൾ (provenance checks) നടപ്പിലാക്കുക – വിവരങ്ങളെ അവയുടെ യഥാർത്ഥ സ്രോതസ്സിലേക്ക് എത്തിക്കുക. വിവരങ്ങളുടെ ഉറവിടം വളരെ കുറഞ്ഞ ട്രാഫിക്കും പ്രചരണ ചരിത്രവുമുള്ള ഒരു സൈറ്റിലാണെങ്കിൽ, ആ ഔട്ട്പുട്ട് പരിശോധനയ്ക്കായി അടയാളപ്പെടുത്തുക.
  • പോസ്റ്റ്-ട്രെയിനിംഗ് സാനിറ്റൈസേഷൻ (post-training sanitization) നടപ്പിലാക്കുക – രാഷ്ട്രീയപരമായി സെൻസിറ്റീവ് ആയ വിഷയങ്ങൾ കൈകാര്യം ചെയ്യുന്ന മോഡൽ ഔട്ട്പുട്ടുകളിൽ കൃത്യമായ ഓഡിറ്റുകൾ നടത്തുക. ഓട്ടോമേറ്റഡ് ഫിൽട്ടറുകൾക്ക് കണ്ടെത്താൻ കഴിയാത്ത വ്യവസ്ഥാപിതമായ പക്ഷപാതങ്ങൾ മനുഷ്യരായ റിവ്യൂവർമാർക്ക് കണ്ടെത്താൻ കഴിയും.

എതിർവാദങ്ങളും വെല്ലുവിളികളും

സുരക്ഷയും എല്ലാവരെയും ഉൾക്കൊള്ളുന്ന രീതിയിലുള്ള സമീപനവും (inclusivity) തമ്മിലുള്ള സന്തുലിതാവസ്ഥ നിലനിർത്തുക എന്നത് ഇപ്പോഴും ഒരു വെല്ലുവിളിയായി തുടരുന്നു.

ഭാവിയിലേക്ക്

അടുത്ത തലമുറയിലെ AI-യെ രൂപപ്പെടുത്താൻ സ്റ്റേറ്റ് ആക്ടർമാർക്ക് (state actors) എങ്ങനെ തുറന്ന വെബിനെ ആയുധമാക്കാം എന്ന് പ്രാവ്ദ നെറ്റ്‌വർക്ക് കാണിച്ചുതരുന്നു.

ചുരുക്കത്തിൽ: AI-യുടെ വിശ്വാസ്യത അത് പഠിക്കുന്ന ഡാറ്റയുടെ ശുദ്ധിയെ ആശ്രയിച്ചിരിക്കുന്നു. കുറഞ്ഞ ട്രാഫിക്കുള്ള, പ്രചരണങ്ങൾ നിറഞ്ഞ സൈറ്റുകളുടെ ഏകോപിത നീക്കം നമ്മൾ വിശ്വസിക്കുന്ന മോഡലുകളിൽ തെറ്റായ വിവരങ്ങൾ എത്തിച്ചേരാൻ കാരണമാകും. നമ്മൾ നിർമ്മിക്കുന്ന യന്ത്രങ്ങൾ അറിയാതെ തന്നെ തെറ്റായ വിവരങ്ങളുടെ വാഹകരാകാതിരിക്കാൻ, ഡെവലപ്പർമാർ സ്രോതസ്സുകളുടെ വിശ്വാസ്യതയെ ഒരു പ്രധാന കാര്യമായി പരിഗണിക്കണം.