Un nuevo estudio del grupo de defensa alemán AlgorithmWatch ha revelado inconsistencias significativas y posibles sesgos en la forma en que las AI Overviews de Google gestionan las consultas relacionadas con las elecciones. La investigación muestra que los resúmenes generados por IA carecen de transparencia, se basan en un conjunto limitado de fuentes y, en ocasiones, utilizan un lenguaje partidista para describir a los candidatos políticos.

Disparadores inconsistentes y falta de transparencia

Utilizando la "Search Researcher Result API" bajo la Ley de Servicios Digitales de la UE, AlgorithmWatch examinó 4.480 consultas de búsqueda sobre las próximas elecciones estatales en Alemania. Los datos exponen una brecha evidente en el despliegue de las funciones de IA de Google. Las AI Overviews aparecen en el 65,3 % de las búsquedas no políticas, pero caen al 39,1 % en las consultas relacionadas con las elecciones.

El mecanismo de activación sigue siendo una caja negra. Las preguntas sobre encuestas políticas casi nunca generan un resumen, mientras que las consultas sobre partidos específicos lo activan entre el 40 % y el 50 % de las veces. El partido de extrema derecha AfD recibe resúmenes solo el 24 % de las veces, en comparación con el 45 % - 58 % de otros partidos. Google afirma que estas funciones aportan valor y no se muestran en todas las búsquedas; sin embargo, no ha revelado los criterios exactos que determinan cuándo aparece un resumen.

Un ecosistema de información limitado y el dominio de YouTube

AlgorithmWatch también señaló la homogeneidad de las fuentes. Casi la mitad de todos los enlaces citados en las AI Overviews provienen de solo diez dominios, y YouTube encabeza la lista. Las emisoras públicas alemanas (NDR, rbb, MDR y ARD) dominan las citas mediáticas, pero seis sitios de noticias suministran el 75 % de todos los enlaces de medios.

La IA suele citar páginas oficiales de los partidos sin etiquetarlas como partidistas, desdibujando la línea entre el periodismo y el material de campaña.

Encuadre partidista y el problema de la "sicofancia"

El tono lingüístico plantea preocupaciones democráticas. AlgorithmWatch descubrió que las posiciones políticas se describen con frecuencia mediante adjetivos halagadores y vagos como "pragmático" o "estable", haciendo eco de la propia imagen de marca de los partidos. En una muestra de Sajonia-Anhalt, el 81,5 % de los resúmenes sobre el partido de centro-derecha CDU fueron calificados como "claramente positivos", frente al 50 % para el SPD y el 0 % para el AfD.

Los errores fácticos fueron poco comunes, pero los modelos mostraron "sicofancia": una tendencia a reflejar el tono de la entrada o del material de origen. Esto produjo etiquetas contradictorias para un mismo candidato, como "nacional-conservador" en un caso y "extrema derecha radical" en otro, sin un patrón claro.

Conclusiones clave

  • Opacidad algorítmica: Google no proporciona criterios claros para activar las AI Overviews en consultas políticas, lo que resulta en experiencias de usuario desiguales.
  • Concentración de fuentes: La IA se apoya en un grupo muy limitado de fuentes, donde YouTube y un puñado de medios de comunicación suministran la mayor parte de las citas.
  • Sesgo lingüístico: Los modelos favorecen un lenguaje complaciente y de tono positivo que puede beneficiar involuntariamente a ciertos partidos.