Une nouvelle étude du groupe de défense allemand AlgorithmWatch a révélé des incohérences significatives et des biais potentiels dans la manière dont les AI Overviews de Google traitent les requêtes liées aux élections. La recherche montre que les résumés générés par l'IA manquent de transparence, s'appuient sur un ensemble restreint de sources et utilisent parfois un langage partisan pour décrire les candidats politiques.
Déclenchements incohérents et manque de transparence
En utilisant la « Search Researcher Result API » dans le cadre de la législation sur les services numériques (DSA) de l'UE, AlgorithmWatch a examiné 4 480 requêtes de recherche concernant les prochaines élections régionales en Allemagne. Les données révèlent un écart flagrant dans le déploiement des fonctionnalités d'IA de Google. Les AI Overviews apparaissent dans 65,3 % des recherches non politiques, mais ce taux chute à 39,1 % pour les requêtes liées aux élections.
Le mécanisme de déclenchement reste une boîte noire. Les questions sur les sondages politiques ne déclenchent presque jamais d'aperçu, tandis que les requêtes sur des partis spécifiques en déclenchent un dans 40 % à 50 % des cas. Le parti d'extrême droite AfD ne reçoit des aperçus que 24 % du temps, contre 45 % à 58 % pour les autres partis. Google affirme que ces fonctionnalités apportent une valeur ajoutée et ne sont pas affichées pour chaque recherche, mais n'a pas divulgué les critères exacts qui déterminent l'apparition d'un aperçu.
Un écosystème d'information restreint et la dominance de YouTube
AlgorithmWatch a également signalé l'homogénéité des sources. Près de la moitié de tous les liens cités dans les AI Overviews proviennent de seulement dix domaines, et YouTube arrive en tête de liste. Les diffuseurs publics allemands — NDR, rbb, MDR et ARD — dominent les citations médiatiques, mais six sites de médias fournissent 75 % de tous les liens médiatiques.
L'IA cite souvent des pages officielles de partis sans les étiqueter comme partisanes, brouillant ainsi la frontière entre le journalisme et le matériel de campagne.
Cadrage partisan et le problème de la « sycophantie »
Le ton linguistique soulève des préoccupations démocratiques. AlgorithmWatch a constaté que les positions politiques sont fréquemment décrites par des adjectifs flatteurs et vagues tels que « pragmatique » ou « stable », faisant écho à l'image de marque des partis eux-mêmes. Dans un échantillon de Saxe-Anhalt, 81,5 % des aperçus concernant la CDU (centre-droit) ont été jugés « clairement positifs », contre 50 % pour le SPD et 0 % pour l'AfD.
Les erreurs factuelles étaient rares, mais les modèles ont fait preuve de « sycophantie » — une tendance à refléter le ton de la requête ou du matériel source. Cela a produit des étiquettes contradictoires pour un même candidat, comme « national-conservateur » dans un cas et « extrême droite radicale » dans un autre, sans modèle clair.
Points clés à retenir
- Opacité algorithmique : Google ne fournit aucun critère clair pour le déclenchement des AI Overviews sur les requêtes politiques, ce qui entraîne des expériences utilisateur inégales.
- Concentration des sources : L'IA s'appuie sur un groupe très limité de sources, YouTube et une poignée de médias fournissant la majeure partie des citations.
- Biais linguistique : Les modèles privilégient un langage sycophantique et à l'apparence positive qui peut, involontairement, favoriser certains partis.