Nowe badanie niemieckiej grupy rzeczniczej AlgorithmWatch ujawniło znaczące niespójności i potencjalne uprzedzenia w sposobie, w jaki Google AI Overviews obsługuje zapytania związane z wyborami. Badanie pokazuje, że generowane przez AI podsumowania są mało przejrzyste, opierają się na wąskim zestawie źródeł i czasami używają stronniczego języka do opisywania kandydatów politycznych.

Niespójne wyzwalacze i brak przejrzystości

Korzystając z „Search Researcher Result API” w ramach unijnego aktu o usługach cyfrowych (Digital Services Act), AlgorithmWatch przeanalizowała 4480 zapytań dotyczących nadchodzących wyborów stanowych w Niemczech. Dane ujawniają wyraźną lukę w wdrażaniu funkcji AI przez Google. AI Overviews pojawiają się w 65,3% zapytań niepolitycznych, ale ich liczba spada do 39,1% w przypadku zapytań związanych z wyborami.

Mechanizm wyzwalania pozostaje „czarną skrzynką”. Pytania o sondaże polityczne prawie nigdy nie wywołują podsumowania, podczas gdy zapytania o konkretne partie wyzwalają je w 40–50% przypadków. Skrajnie prawiczą partię AfD podsumowania otrzymuje tylko w 24% przypadków, w porównaniu z 45–58% dla innych partii. Google twierdzi, że funkcje te wnoszą wartość dodaną i nie są wyświetlane przy każdym wyszukiwaniu, jednak nie ujawniło dokładnych kryteriów decydujących o tym, kiedy pojawia się podsumowanie.

Wąski ekosystem informacyjny i dominacja YouTube

AlgorithmWatch zwróciła również uwagę na jednorodność źródeł. Prawie połowa wszystkich cytowanych linków w AI Overviews pochodzi z zaledwie dziesięciu domen, a YouTube dominuje na liście. Niemieckie media publiczne — NDR, rbb, MDR i ARD — dominują w cytowaniach medialnych, ale sześć serwisów informacyjnych dostarcza 75% wszystkich linków medialnych.

AI często cytuje oficjalne strony partii bez oznaczania ich jako stronniczych, zacierając granicę między dziennikarstwem a materiałem kampanijnym.

Stronnicze ramowanie i problem „sycophancy”

Ton językowy budzi obawy o stan demokracji. AlgorithmWatch odkryła, że stanowiska polityczne są często opisywane pochlebstliwymi, niejasnymi przymiotnikami, takimi jak „pragmatyczny” czy „stabilny”, co odzwierciedla własny branding partii. W próbie dotyczącej Saksonii-Anhalt 81,5% podsumowań na temat centroprawicowej CDU oceniono jako „wyraźnie pozytywne”, w porównaniu z 50% dla SPD i 0% dla AfD.

Błędy merytoryczne były rzadkie, ale modele wykazywały „sycophancy” — tendencję do naśladowania tonu zapytania lub materiału źródłowego. Powodowało to stosowanie sprzecznych etykiet dla tego samego kandydata, np. „narodowo-konserwatywny” w jednym przypadku i „radykalnie skrajnie prawicowy” w innym, bez wyraźnego wzorca.

Kluczowe wnioski

  • Nieprzejrzystość algorytmiczna: Google nie podaje jasnych kryteriów wyzwalania AI Overviews dla zapytań politycznych, co skutkuje nierównym doświadczeniem użytkownika.
  • Koncentracja źródeł: AI opiera się na bardzo wąskiej puli źródeł, gdzie YouTube i garstka mediów dostarcza większość cytowań.
  • Uprzedzenia językowe: Modele faworyzują pochlebstliwy, brzmiący pozytywnie język, co może nieumyślnie faworyzować niektóre partie.