ജർമ്മൻ അഡ്വക്കസി ഗ്രൂപ്പായ AlgorithmWatch നടത്തിയ പുതിയ പഠനം, തിരഞ്ഞെടുപ്പുമായി ബന്ധപ്പെട്ട ചോദ്യങ്ങൾ കൈകാര്യം ചെയ്യുന്നതിൽ Google-ന്റെ AI Overviews-ൽ ഗണ്യമായ പൊരുത്തക്കേടുകളും പക്ഷപാതപരമായ പ്രവണതകളും ഉണ്ടെന്ന് വെളിപ്പെടുത്തിയിരിക്കുന്നു. AI നിർമ്മിക്കുന്ന സംഗ്രഹങ്ങളിൽ സുതാര്യതയില്ലെന്നും, പരിമിതമായ സ്രോതസ്സുകളിൽ നിന്നാണ് അവ വിവരങ്ങൾ ശേഖരിക്കുന്നതെന്നും, രാഷ്ട്രീയ സ്ഥാനാർത്ഥികളെ വിവരിക്കാൻ ചിലപ്പോൾ പക്ഷപാതപരമായ ഭാഷ ഉപയോഗിക്കുന്നുണ്ടെന്നും ഗവേഷണം കാണിക്കുന്നു.

പൊരുത്തക്കേടുള്ള ട്രിഗറുകളും സുതാര്യതയുടെ അഭാവവും

EU-യുടെ Digital Services Act പ്രകാരമുള്ള "Search Researcher Result API" ഉപയോഗിച്ച്, ജർമ്മനിയിലെ വരാനിരിക്കുന്ന സംസ്ഥാന തിരഞ്ഞെടുപ്പുകളെക്കുറിച്ചുള്ള 4,480 സെർച്ച് ക്വറികൾ AlgorithmWatch പരിശോധിച്ചു. Google-ന്റെ AI ഫീച്ചർ വിന്യാസത്തിലെ വലിയൊരു വിടവ് ഈ ഡാറ്റ വെളിപ്പെടുത്തുന്നു. രാഷ്ട്രീയേതര സെർച്ചുകളിൽ 65.3% തവണ AI Overviews കാണപ്പെടുന്നുണ്ടെങ്കിലും, തിരഞ്ഞെടുപ്പുമായി ബന്ധപ്പെട്ട ചോദ്യങ്ങളിൽ ഇത് 39.1% ആയി കുറയുന്നു.

ഇതിന്റെ ട്രിഗറിംഗ് സംവിധാനം ഒരു 'ബ്ലാക്ക് ബോക്സ്' പോലെ അവ്യക്തമായി തുടരുന്നു. രാഷ്ട്രീയ സർവേകളെക്കുറിച്ചുള്ള ചോദ്യങ്ങൾ മിക്കവാറും ഒരു ഓവർവ്യൂ നൽകുന്നില്ല, എന്നാൽ പ്രത്യേക പാർട്ടികളെക്കുറിച്ചുള്ള ചോദ്യങ്ങൾ 40%-50% തവണ ഓവർവ്യൂ നൽകുന്നു. മറ്റ് പാർട്ടികൾക്ക് 45%-58% തവണ ഓവർവ്യൂ ലഭിക്കുമ്പോൾ, തീവ്ര വലതുപക്ഷ പാർട്ടിയായ AfD-ക്ക് 24% തവണ മാത്രമേ ഓവർവ്യൂ ലഭിക്കുന്നുള്ളൂ. ഈ ഫീച്ചറുകൾ മൂല്യവർദ്ധിതമാണെന്നും എല്ലാ സെർച്ചുകൾക്കും ഇത് കാണിക്കില്ലെന്നും Google പറയുന്നുണ്ടെങ്കിലും, ഒരു ഓവർവ്യൂ എപ്പോൾ കാണിക്കണമെന്ന് തീരുമാനിക്കുന്ന കൃത്യമായ മാനദണ്ഡങ്ങൾ അവർ വെളിപ്പെടുത്തിയിട്ടില്ല.

പരിമിതമായ വിവര സ്രോതസ്സുകളും YouTube-ന്റെ ആധിപത്യവും

സ്രോതസ്സുകളുടെ ഏകതയെക്കുറിച്ചും AlgorithmWatch മുന്നറിയിപ്പ് നൽകുന്നു. AI Overviews-ൽ ഉദ്ധരിക്കുന്ന ലിങ്കുകളിൽ പകുതിയോളം വെറും പത്ത് ഡൊമെയ്‌നുകളിൽ നിന്നാണ് വരുന്നത്, ഇതിൽ YouTube ആണ് ഒന്നാമത്. ജർമ്മൻ പബ്ലിക് ബ്രോഡ്കാസ്റ്ററുകളായ NDR, rbb, MDR, ARD എന്നിവർ മീഡിയേഷനുകളിൽ മുന്നിലാണെങ്കിലും, ആകെ മീഡിയ ലിങ്കുകളിൽ 75% നൽകുന്നത് ആറ് മീഡിയ സൈറ്റുകളാണ്.

രാഷ്ട്രീയ പാർട്ടികളുടെ ഔദ്യോഗിക പേജുകളെ പക്ഷപാതപരമാണെന്ന് അടയാളപ്പെടുത്താതെ തന്നെ AI പലപ്പോഴും ഉദ്ധരിക്കുന്നു, ഇത് പത്രപ്രവർത്തനവും പ്രചാരണ സാമഗ്രികളും തമ്മിലുള്ള വ്യത്യാസം ഇല്ലാതാക്കുന്നു.

പക്ഷപാതപരമായ അവതരണവും "Sycophancy" പ്രശ്നവും

ഭാഷാപരമായ ശൈലി ജനാധിപത്യപരമായ ആശങ്കകൾ ഉയർത്തുന്നു. രാഷ്ട്രീയ നിലപാടുകളെ "പ്രായോഗികം" (pragmatic) അല്ലെങ്കിൽ "സ്ഥിരതയുള്ളത്" (stable) എന്നിങ്ങനെയുള്ള പുകഴ്ത്തുന്നതും അവ്യക്തവുമായ വിശേഷണങ്ങൾ ഉപയോഗിച്ച് വിവരിക്കാറുണ്ടെന്ന് AlgorithmWatch കണ്ടെത്തി; ഇത് പാർട്ടികളുടെ സ്വന്തം ബ്രാൻഡിംഗിനെ പ്രതിഫലിപ്പിക്കുന്നു. Saxony-Anhalt സാമ്പിളിൽ, സെന്റർ-റൈറ്റ് CDU-യെക്കുറിച്ചുള്ള ഓവർവ്യൂകളിൽ 81.5% എണ്ണം "വ്യക്തമായും പോസിറ്റീവ്" ആണെന്ന് വിലയിരുത്തപ്പെട്ടു, അതേസമയം SPD-ക്ക് ഇത് 50% ഉം AfD-ക്ക് 0% ഉം ആണ്.

വസ്തുതാപരമായ തെറ്റുകൾ അപൂർവ്വമായിരുന്നുവെങ്കിലും, മോഡലുകൾ "sycophancy"—അതായത് ഇൻപുട്ടിന്റെയോ സ്രോതസ്സിന്റെയോ ശൈലിയെ അതേപടി അനുകരിക്കാനുള്ള പ്രവണത—പ്രകടിപ്പിച്ചു. ഇത് ഒരേ സ്ഥാനാർത്ഥിക്ക് തന്നെ വ്യത്യസ്തമായ ലേബലുകൾ നൽകാൻ കാരണമായി; ഉദാഹരണത്തിന് ഒരു തവണ "national-conservative" എന്നും മറ്റൊരു തവണ "radical far-right" എന്നും വ്യക്തമായ ഒരു പാറ്റേൺ ഇല്ലാതെ തന്നെ വിശേഷിപ്പിക്കപ്പെട്ടു.

പ്രധാന കണ്ടെത്തലുകൾ

  • അൽഗോരിതമിക് അവ്യക്തത: രാഷ്ട്രീയ ചോദ്യങ്ങളിൽ AI Overviews നൽകുന്നതിന് Google വ്യക്തമായ മാനദണ്ഡങ്ങൾ നൽകുന്നില്ല, ഇത് ഉപയോക്താക്കൾക്ക് വ്യത്യസ്തമായ അനുഭവങ്ങൾ നൽകുന്നു.
  • സ്രോതസ്സുകളുടെ കേന്ദ്രീകരണം: AI വളരെ പരിമിതമായ സ്രോതസ്സുകളെയാണ് ആശ്രയിക്കുന്നത്; YouTube-ഉം ഏതാനും മീഡിയ ഔട്ട്‌ലെറ്റുകളും ആണ് ഭൂരിഭാഗം ഉദ്ധരണികളും നൽകുന്നത്.
  • ഭാഷാപരമായ പക്ഷപാതം: മോഡലുകൾ അനുകരണപരമായതും പോസിറ്റീവ് ആയി തോന്നുന്നതുമായ ഭാഷയ്ക്ക് മുൻഗണന നൽകുന്നു, ഇത് അറിഞ്ഞോ അറിയാതെയോ ചില പാർട്ടികൾക്ക് അനുകൂലമായ സാഹചര്യം ഉണ്ടാക്കിയേക്കാം.