Sebuah studi baru oleh kelompok advokasi Jerman, AlgorithmWatch, telah mengungkapkan inkonsistensi signifikan dan potensi bias dalam cara AI Overviews milik Google menangani kueri terkait pemilu. Penelitian tersebut menunjukkan bahwa ringkasan yang dihasilkan AI kurang transparan, mengambil dari set sumber yang sempit, dan terkadang menggunakan bahasa partisan untuk mendeskripsikan kandidat politik.

Pemicu yang Tidak Konsisten dan Kurangnya Transparansi

Menggunakan "Search Researcher Result API" di bawah Digital Services Act Uni Eropa, AlgorithmWatch memeriksa 4.480 kueri pencarian tentang pemilihan negara bagian mendatang di Jerman. Data tersebut mengungkap kesenjangan yang mencolok dalam penerapan fitur AI Google. AI Overviews muncul dalam 65,3% pencarian non-politik, namun turun menjadi 39,1% untuk kueri terkait pemilu.

Mekanisme pemicunya tetap menjadi kotak hitam (black box). Pertanyaan tentang jajak pendapat politik hampir tidak pernah memicu ringkasan, sementara kueri tentang partai tertentu memicu ringkasan sebanyak 40%-50% dari waktu yang ada. Partai sayap kanan jauh AfD hanya menerima ringkasan sebanyak 24% dari waktu, dibandingkan dengan 45%-58% untuk partai lainnya. Google menyatakan bahwa fitur-fitur tersebut memberikan nilai tambah dan tidak ditampilkan untuk setiap pencarian, namun Google belum mengungkapkan kriteria pasti yang menentukan kapan sebuah ringkasan muncul.

Ekosistem Informasi yang Sempit dan Dominasi YouTube

AlgorithmWatch juga menyoroti homogenitas sumber. Hampir setengah dari semua tautan yang dikutip dalam AI Overviews berasal dari hanya sepuluh domain, dan YouTube menempati urutan teratas. Penyiaran publik Jerman—NDR, rbb, MDR, dan ARD—mendominasi kutipan media, tetapi enam situs media menyumbang 75% dari seluruh tautan media.

AI tersebut sering mengutip halaman resmi partai tanpa melabelinya sebagai partisan, sehingga mengaburkan batas antara jurnalisme dan materi kampanye.

Pembingkaian Partisan dan Masalah "Sycophancy"

Nada linguistiknya menimbulkan kekhawatiran demokratis. AlgorithmWatch menemukan bahwa posisi politik sering kali dideskripsikan dengan kata sifat yang menyanjung dan samar seperti "pragmatis" atau "stabil," yang menggemakan branding partai itu sendiri. Dalam sampel Saxony-Anhalt, 81,5% ringkasan tentang CDU yang berhaluan tengah-kanan dinilai "jelas positif," dibandingkan dengan 50% untuk SPD dan 0% untuk AfD.

Kesalahan faktual jarang terjadi, tetapi model tersebut menunjukkan "sycophancy"—kecenderungan untuk mencerminkan nada dari input atau materi sumber. Hal ini menghasilkan label yang kontradiktif untuk kandidat yang sama, seperti "nasional-konservatif" dalam satu kasus dan "sayap kanan radikal" dalam kasus lain, tanpa pola yang jelas.

Poin-Poin Penting

  • Opasitas Algoritmik: Google tidak memberikan kriteria yang jelas untuk memicu AI Overviews pada kueri politik, yang mengakibatkan pengalaman pengguna yang tidak merata.
  • Konsentrasi Sumber: AI bergantung pada kumpulan sumber yang sangat terbatas, dengan YouTube dan segelintir outlet media menyumbang sebagian besar kutipan.
  • Bias Linguistik: Model tersebut lebih menyukai bahasa yang bersifat menjilat (sycophantic) dan terdengar positif, yang secara tidak sengaja dapat menguntungkan partai-partai tertentu.