Un nuovo studio del gruppo di difesa tedesco AlgorithmWatch ha rivelato significative incongruenze e potenziali pregiudizi nel modo in cui le AI Overviews di Google gestiscono le query relative alle elezioni. La ricerca mostra che i riepiloghi generati dall'IA mancano di trasparenza, attingono a un set limitato di fonti e talvolta utilizzano un linguaggio partigiano per descrivere i candidati politici.

Trigger inconsistenti e mancanza di trasparenza

Utilizzando la "Search Researcher Result API" nell'ambito del Digital Services Act dell'UE, AlgorithmWatch ha esaminato 4.480 query di ricerca riguardanti le prossime elezioni statali in Germania. I dati evidenziano un netto divario nell'implementazione delle funzionalità di IA di Google. Le AI Overviews appaiono nel 65,3% delle ricerche non politiche, ma scendono al 39,1% per le query relative alle elezioni.

Il meccanismo di attivazione rimane una black box. Le domande sui sondaggi politici quasi mai generano un riepilogo, mentre le query su partiti specifici ne attivano uno nel 40%-50% dei casi. Il partito di estrema destra AfD riceve riepiloghi solo nel 24% dei casi, rispetto al 45%-58% degli altri partiti. Google afferma che queste funzionalità aggiungono valore e non vengono mostrate per ogni ricerca, tuttavia non ha divulgato i criteri esatti che decidono quando appare un riepilogo.

Un ecosistema informativo ristretto e il dominio di YouTube

AlgorithmWatch ha inoltre segnalato l'omogeneità delle fonti. Quasi la metà di tutti i link citati nelle AI Overviews proviene da soli dieci domini, con YouTube in cima alla lista. I broadcaster pubblici tedeschi — NDR, rbb, MDR e ARD — dominano le citazioni mediatiche, ma sei siti di informazione forniscono il 75% di tutti i link mediatici.

L'IA cita spesso pagine ufficiali dei partiti senza etichettarle come partigiane, sfumando il confine tra giornalismo e materiale elettorale.

Inquadramento partigiano e il problema della "sycophancy"

Il tono linguistico solleva preoccupazioni democratiche. AlgorithmWatch ha riscontrato che le posizioni politiche sono frequentemente descritte con aggettivi lusinghieri e vaghi come "pragmatico" o "stabile", riecheggiando il branding degli stessi partiti. In un campione della Sassonia-Anhalt, l'81,5% dei riepiloghi sulla CDU di centrodestra è stato giudicato "chiaramente positivo", contro il 50% per il SPD e lo 0% per l'AfD.

Gli errori fattuali sono stati rari, ma i modelli hanno mostrato "sycophancy" — una tendenza a rispecchiare il tono dell'input o del materiale sorgente. Ciò ha prodotto etichette contraddittorie per lo stesso candidato, come "nazional-conservatore" in un caso e "estrema destra radicale" in un altro, senza un modello chiaro.

Punti chiave

  • Opacità algoritmica: Google non fornisce criteri chiari per l'attivazione delle AI Overviews sulle query politiche, con il risultato di esperienze utente disomogenee.
  • Concentrazione delle fonti: L'IA si affida a un pool di fonti estremamente limitato, con YouTube e un manipolo di testate giornalistiche che forniscono la maggior parte delle citazioni.
  • Pregiudizio linguistico: I modelli favoriscono un linguaggio compiacente e dall'aspetto positivo che può avvantaggiare involontariamente certi partiti.