જર્મન એડવોકેસી ગ્રુપ AlgorithmWatch ના એક નવા અભ્યાસે દર્શાવ્યું છે કે Google ના AI Overviews ચૂંટણી સંબંધિત પ્રશ્નોને જે રીતે હેન્ડલ કરે છે તેમાં નોંધપાત્ર અસંગતતાઓ અને સંભવિત પક્ષપાત જોવા મળે છે. સંશોધન દર્શાવે છે કે AI દ્વારા જનરેટ કરવામાં આવેલા સારાંશમાં પારદર્શિતાનો અભાવ છે, તે મર્યાદિત સ્ત્રોતોમાંથી માહિતી લે છે, અને ક્યારેક રાજકીય ઉમેદવારોનું વર્ણન કરવા માટે પક્ષપાતી ભાષાનો ઉપયોગ કરે છે.

અસંગત ટ્રિગર્સ અને પારદર્શિતાનો અભાવ

EU ના Digital Services Act હેઠળ "Search Researcher Result API" નો ઉપયોગ કરીને, AlgorithmWatch એ જર્મનીમાં આગામી રાજ્યની ચૂંટણીઓ વિશેના 4,480 સર્ચ ક્વેરીઝનું પરીક્ષણ કર્યું. આ ડેટા Google ના AI ફીચરના અમલીકરણમાં મોટો તફાવત દર્શાવે છે. AI Overviews બિન-રાજકીય સર્ચમાં 65.3% વખત દેખાય છે, પરંતુ ચૂંટણી સંબંધિત ક્વેરીઝ માટે તે ઘટીને 39.1% થઈ જાય છે.

આ ટ્રિગરિંગ મિકેનિઝમ એક 'બ્લેક બોક્સ' (અસ્પષ્ટ પ્રક્રિયા) સમાન છે. રાજકીય સર્વેક્ષણો વિશેના પ્રશ્નો ભાગ્યે જ ઓવરવ્યુ (overview) જનરેટ કરે છે, જ્યારે ચોક્કસ પક્ષો વિશેની ક્વેરીઝ 40%-50% વખત ઓવરવ્યુ ટ્રિગર કરે છે. અન્ય પક્ષો માટે 45%-58% ના પ્રમાણની સરખામણીમાં, અત્યંત જમણેરી AfD પક્ષને માત્ર 24% વખત જ ઓવરવ્યુ મળે છે. Google કહે છે કે આ ફીચર્સ મૂલ્યવર્ધન કરે છે અને દરેક સર્ચ માટે બતાવવામાં આવતા નથી, તેમ છતાં તે કયા ચોક્કસ માપદંડોના આધારે ઓવરવ્યુ દેખાય છે તેની જાણકારી જાહેર કરી નથી.

મર્યાદિત માહિતી ઇકોસિસ્ટમ અને YouTube નું વર્ચસ્વ

AlgorithmWatch એ સ્ત્રોતોની એકરૂપતા (homogeneity) તરફ પણ ધ્યાન દોર્યું છે. AI Overviews માં ઉલ્લેખિત લગભગ અડધા લિંક્સ માત્ર દસ ડોમેનમાંથી આવે છે, અને YouTube આ યાદીમાં ટોચ પર છે. જર્મન પબ્લિક બ્રોડકાસ્ટર્સ—NDR, rbb, MDR, અને ARD—મીડિયા સાઇટેશનમાં પ્રભુત્વ ધરાવે છે, પરંતુ છ મીડિયા સાઇટ્સ કુલ મીડિયા લિંક્સના 75% પૂરી પાડે છે.

AI ઘણીવાર પક્ષના સત્તાવાર પેજને પક્ષપાતી તરીકે લેબલ કર્યા વિના તેનો ઉલ્લેખ કરે છે, જેનાથી પત્રકારત્વ અને ચૂંટણી પ્રચાર સામગ્રી વચ્ચેની રેખા ધૂંધળી બને છે.

પક્ષપાતી ફ્રેમિંગ અને "Sycophancy" ની સમસ્યા

ભાષાકીય લહેકો લોકશાહી સંબંધિત ચિંતાઓ ઊભી કરે છે. AlgorithmWatch એ જોયું કે રાજકીય વલણોનું વર્ણન વારંવાર "pragmatic" (વ્યવહારુ) અથવા "stable" (સ્થિર) જેવા પ્રશંસાત્મક અને અસ્પષ્ટ વિશેષણો સાથે કરવામાં આવે છે, જે પક્ષોના પોતાના બ્રાન્ડિંગનું પ્રતિબિંબ પાડે છે. Saxony-Anhalt ના નમૂનામાં, સેન્ટર-રાઈટ CDU વિશેના 81.5% ઓવરવ્યુઝને "સ્પષ્ટપણે સકારાત્મક" માનવામાં આવ્યા હતા, જ્યારે SPD માટે 50% અને AfD માટે 0% હતા.

તથ્યલક્ષી ભૂલો ભાગ્યે જ જોવા મળી હતી, પરંતુ મોડલ્સમાં "sycophancy"—એટલે કે ઇનપુટ અથવા સ્ત્રોત સામગ્રીના લહેકાને અનુસરવાની વૃત્તિ જોવા મળી હતી. આના કારણે એક જ ઉમેદવાર માટે વિરોધાભાસી લેબલ્સ જોવા મળ્યા, જેમ કે એક કિસ્સામાં "national-conservative" અને બીજામાં "radical far-right", જેમાં કોઈ સ્પષ્ટ પેટર્ન નહોતી.

મુખ્ય તારણો

  • Algorithmic Opacity (અલ્ગોરિધમિક અપારદર્શિતા): Google રાજકીય ક્વેરીઝ પર AI Overviews ટ્રિગર કરવા માટે કોઈ સ્પષ્ટ માપદંડ આપતું નથી, જેના પરિણામે વપરાશકર્તાઓના અનુભવમાં અસમાનતા જોવા મળે છે.
  • Source Concentration (સ્ત્રોતોનું કેન્દ્રીકરણ): AI મર્યાદિત સ્ત્રોતો પર નિર્ભર છે, જેમાં YouTube અને ગણ્યાગાંઠ્યા મીડિયા આઉટલેટ્સ મોટાભાગના સાઇટેશન પૂરા પાડે છે.
  • Linguistic Bias (ભાષાકીય પક્ષપાત): મોડલ્સ ચાપલૂસીભરી અને સકારાત્મક લાગતી ભાષાને પ્રાધાન્ય આપે છે, જે અજાણતામાં અમુક પક્ષોને ફાયદો કરાવી શકે છે.