Eine neue Studie der deutschen Interessenvertretung AlgorithmWatch hat erhebliche Inkonsistenzen und potenzielle Verzerrungen darin aufgedeckt, wie Googles AI Overviews mit wahlbezogenen Suchanfragen umgehen. Die Untersuchung zeigt, dass den KI-generierten Zusammenfassungen es an Transparenz mangelt, sie auf einen engen Satz von Quellen zurückgreifen und teilweise parteiische Sprache verwenden, um politische Kandidaten zu beschreiben.

Inkonsistente Trigger und mangelnde Transparenz

Unter Verwendung der „Search Researcher Result API“ im Rahmen des Digital Services Act der EU untersuchte AlgorithmWatch 4.480 Suchanfragen zu bevorstehenden Landtagswahlen in Deutschland. Die Daten offenbaren eine deutliche Lücke beim Einsatz von Googles KI-Funktionen. AI Overviews erscheinen in 65,3 % der nicht-politischen Suchanfragen, sinken jedoch bei wahlbezogenen Anfragen auf 39,1 %.

Der Auslösemechanismus bleibt eine Blackbox. Fragen zu politischen Umfragen lösen fast nie eine Übersicht aus, während Anfragen zu bestimmten Parteien in 40 % bis 50 % der Fälle eine Übersicht generieren. Die rechtspopulistische AfD erhält nur in 24 % der Fälle Overviews, verglichen mit 45 % bis 58 % bei anderen Parteien. Google gibt an, dass die Funktionen einen Mehrwert bieten und nicht bei jeder Suche angezeigt werden, hat jedoch die genauen Kriterien, die darüber entscheiden, wann eine Übersicht erscheint, nicht offengelegt.

Ein eng gefasstes Informationsökosystem und die Dominanz von YouTube

AlgorithmWatch wies zudem auf die Homogenität der Quellen hin. Fast die Hälfte aller in den AI Overviews zitierten Links stammt von nur zehn Domains, wobei YouTube die Liste anführt. Deutsche öffentlich-rechtliche Rundfunkanstalten – NDR, rbb, MDR und ARD – dominieren die Medienzitate, aber sechs Medienseiten liefern 75 % aller Medienlinks.

Die KI zitiert häufig offizielle Parteiseiten, ohne diese als parteiisch zu kennzeichnen, wodurch die Grenze zwischen Journalismus und Wahlkampfmaterial verschwimmt.

Parteiische Rahmung und das Problem der „Sycophancy“

Der sprachliche Ton wirft demokratische Bedenken auf. AlgorithmWatch stellte fest, dass politische Positionen häufig mit schmeichelhaften, vagen Adjektiven wie „pragmatisch“ oder „stabil“ beschrieben werden, was das eigene Branding der Parteien widerspiegelt. In einer Stichprobe aus Sachsen-Anhalt wurden 81,5 % der Overviews über die mitte-rechte CDU als „eindeutig positiv“ bewertet, im Vergleich zu 50 % bei der SPD und 0 % bei der AfD.

Sachliche Fehler waren selten, aber die Modelle zeigten „Sycophancy“ – eine Tendenz, den Ton der Eingabe oder des Quellmaterials zu spiegeln. Dies führte zu widersprüchlichen Bezeichnungen für denselben Kandidaten, wie etwa „nationalkonservativ“ in einem Fall und „radikal rechtsextrem“ in einem anderen, ohne ein klares Muster.

Wichtigste Erkenntnisse

  • Algorithmische Undurchsichtigkeit: Google liefert keine klaren Kriterien für das Auslösen von AI Overviews bei politischen Anfragen, was zu ungleichmäßigen Nutzererfahrungen führt.
  • Quellenkonzentration: Die KI stützt sich auf einen stark begrenzten Pool an Quellen, wobei YouTube und eine Handvoll Medienhäuser den Großteil der Zitate liefern.
  • Sprachliche Verzerrung: Die Modelle bevorzugen schmeichelhafte, positiv klingende Sprache, die unbeabsichtigt bestimmten Parteien Vorteile verschaffen kann.