Новое исследование немецкой правозащитной группы AlgorithmWatch выявило значительные несоответствия и потенциальную предвзятость в том, как Google AI Overviews обрабатывает запросы, связанные с выборами. Исследование показывает, что резюме, созданные ИИ, не обладают прозрачностью, опираются на узкий набор источников и иногда используют партийную лексику для описания политических кандидатов.

Непоследовательные триггеры и отсутствие прозрачности

Используя «Search Researcher Result API» в рамках Закона ЕС о цифровых услугах (Digital Services Act), AlgorithmWatch изучила 4 480 поисковых запросов о предстоящих выборах в федеральных землях Германии. Данные выявили резкий разрыв в развертывании функций ИИ от Google. AI Overviews появляются в 65,3% неполитических поисковых запросов, но их частота падает до 39,1% в запросах, связанных с выборами.

Механизм срабатывания остается «черным ящиком». Вопросы о политических опросах почти никогда не вызывают появление обзора, в то время как запросы о конкретных партиях вызывают его в 40–50% случаев. Крайне правая партия AfD получает обзоры лишь в 24% случаев, по сравнению с 45–58% для других партий. Google утверждает, что эти функции приносят пользу и не отображаются для каждого поиска, однако компания не раскрыла точные критерии, определяющие появление обзора.

Узкая информационная экосистема и доминирование YouTube

AlgorithmWatch также отметила однородность источников. Почти половина всех цитируемых ссылок в AI Overviews поступает всего из десяти доменов, и YouTube занимает первое место в этом списке. Немецкие общественные вещатели — NDR, rbb, MDR и ARD — доминируют в медиа-цитировании, но шесть медиа-сайтов обеспечивают 75% всех ссылок на СМИ.

ИИ часто цитирует официальные страницы партий, не помечая их как партийные, что стирает грань между журналистикой и предвыборными материалами.

Партийная подача и проблема «сикофантства»

Лингвистический тон вызывает опасения за демократические процессы. AlgorithmWatch обнаружила, что политические позиции часто описываются льстивыми, расплывчатыми прилагательными, такими как «прагматичный» или «стабильный», что перекликается с собственным брендингом партий. В выборке по Саксонии-Анхальт 81,5% обзоров о правоцентристской партии CDU были оценены как «явно положительные», по сравнению с 50% для SPD и 0% для AfD.

Фактические ошибки встречались редко, но модели демонстрировали «сикофантство» (sycophancy) — склонность зеркально отражать тон входных данных или исходного материала. Это приводило к противоречивым определениям одного и того же кандидата, например, «национал-консерватор» в одном случае и «радикальный крайне правый» в другом, без какой-либо четкой закономерности.

Основные выводы

  • Алгоритмическая непрозрачность: Google не предоставляет четких критериев для активации AI Overviews при политических запросах, что приводит к неоднородному пользовательскому опыту.
  • Концентрация источников: ИИ опирается на крайне ограниченный круг источников, при этом YouTube и несколько медиа-ресурсов обеспечивают основную массу цитат.
  • Лингвистическая предвзятость: Модели отдают предпочтение поддакивающему, позитивно звучащему языку, что может непреднамеренно давать преимущество определенным партиям.