जर्मन वकिली गट (advocacy group) AlgorithmWatch च्या एका नवीन अभ्यासातून Google च्या AI Overviews द्वारे निवडणूक संबंधित प्रश्नांची हाताळणी करताना महत्त्वपूर्ण विसंगती आणि संभाव्य पूर्वग्रह (biases) समोर आले आहेत. या संशोधनानुसार, AI द्वारे तयार केलेले सारांश पारदर्शकतेचा अभाव असलेले आहेत, ते मर्यादित स्रोतांवर आधारित आहेत आणि कधीकधी राजकीय उमेदवारांचे वर्णन करण्यासाठी पक्षपाती भाषा वापरतात.

विसंगत ट्रिगर्स आणि पारदर्शकतेचा अभाव

EU च्या Digital Services Act अंतर्गत "Search Researcher Result API" चा वापर करून, AlgorithmWatch ने जर्मनीतील आगामी विधानसभा निवडणुकांशी संबंधित ४,४८० शोध प्रश्नांची (search queries) तपासणी केली. हा डेटा Google च्या AI फीचरच्या उपयोजनातील (deployment) मोठी तफावत दर्शवतो. AI Overviews हे गैर-राजकीय शोधामध्ये ६५.३% वेळा दिसतात, परंतु निवडणूक संबंधित प्रश्नांसाठी हे प्रमाण ३९.१% पर्यंत खाली येते.

हे ट्रिगरिंग मेकॅनिझम (triggering mechanism) अजूनही एक 'ब्लॅक बॉक्स' आहे. राजकीय जनमत चाचण्यांबद्दलच्या (political polls) प्रश्नांमुळे क्वचितच 'overview' समोर येते, तर विशिष्ट पक्षांबद्दलच्या प्रश्नांमुळे ४०%-५०% वेळा 'overview' ट्रिगर होते. इतर पक्षांसाठी ४५%-५८% वेळा 'overview' मिळतो, त्या तुलनेत उजव्या विचारसरणीच्या AfD पक्षाला केवळ २४% वेळा 'overview' मिळतो. Google चे म्हणणे आहे की ही फीचर्स मूल्यवर्धन करतात आणि प्रत्येक शोधामध्ये ती दाखवली जात नाहीत, तरीही 'overview' कधी दिसावे हे ठरवणारे नेमके निकष त्यांनी अद्याप जाहीर केलेले नाहीत.

मर्यादित माहिती परिसंस्था आणि YouTube चे वर्चस्व

AlgorithmWatch ने स्रोतांच्या एकसारखेपणाकडे (homogeneity) देखील लक्ष वेधले आहे. AI Overviews मध्ये उद्धृत केलेल्या (cited) एकूण लिंक्सपैकी जवळपास अर्ध्या लिंक्स केवळ दहा डोमेनमधून येतात आणि या यादीत YouTube आघाडीवर आहे. जर्मन सार्वजनिक प्रसारक—NDR, rbb, MDR आणि ARD—मीडिया साइट्सच्या यादीत वर्चस्व गाजवतात, परंतु सहा मीडिया साइट्स एकूण मीडिया लिंक्सचा ७५% पुरवठा करतात.

AI अनेकदा अधिकृत पक्षीनारे पेजेस (official party pages) त्यांना पक्षपाती म्हणून लेबल न लावता उद्धृत करते, ज्यामुळे पत्रकारिता आणि प्रचार साहित्य यांमधील रेषा धूसर होते.

पक्षपाती मांडणी आणि "Sycophancy" ची समस्या

भाषेचा सूर लोकशाहीविषयक चिंता निर्माण करतो. AlgorithmWatch ला असे आढळले की राजकीय भूमिकांचे वर्णन वारंवार "pragmatic" (व्यावहारिक) किंवा "stable" (स्थिर) यांसारख्या स्तुतीपर आणि अस्पष्ट विशेषणांनी केले जाते, जे पक्षांच्या स्वतःच्या ब्रँडिंगचे प्रतिबिंब असते. Saxony-Anhalt च्या एका नमुन्यात, मध्य-उजव्या विचारसरणीच्या CDU बद्दलच्या ८१.५% 'overviews' "स्पष्टपणे सकारात्मक" असल्याचे आढळले, तर SPD साठी हे प्रमाण ५०% आणि AfD साठी ०% होते.

तथ्यात्मक चुका दुर्मिळ होत्या, परंतु मॉडेल्समध्ये "sycophancy" (चापलुसी) दिसून आली—म्हणजेच इनपुट किंवा मूळ साहित्याचा सूर प्रतिबिंबित करण्याची प्रवृत्ती. यामुळे एकाच उमेदवारासाठी परस्परविरोधी लेबल तयार झाले, जसे की एका ठिकाणी "national-conservative" आणि दुसऱ्या ठिकाणी "radical far-right", ज्यामध्ये कोणताही स्पष्ट पॅटर्न नव्हता.

मुख्य निष्कर्ष

  • अल्गोरिदमची अपारदर्शकता (Algorithmic Opacity): राजकीय प्रश्नांवर AI Overviews ट्रिगर करण्यासाठी Google कोणतेही स्पष्ट निकष देत नाही, ज्यामुळे वापरकर्त्यांचा अनुभव असमान ठरतो.
  • स्रोतांचे केंद्रीकरण: AI अत्यंत मर्यादित स्रोतांवर अवलंबून आहे, ज्यामध्ये YouTube आणि काही मोजक्या मीडिया संस्था बहुतांश संदर्भ पुरवतात.
  • भाषिक पूर्वग्रह: मॉडेल्स चापलुसीपूर्ण आणि सकारात्मक वाटणाऱ्या भाषेला प्राधान्य देतात, ज्यामुळे नकळतपणे काही पक्षांना फायदा होऊ शकतो.