Quand deux sources se contredisent, laquelle une IA croit-elle ?

Les IA recoupent ce qu'elles lisent. Quand deux sources disent des choses différentes sur la même entreprise, il faut bien qu'elles choisissent.

Cette question attend d'être mise à l'étude

Elle t'intéresse ? Rejoins le labo et vote pour qu'on la lance.

Rejoindre le labo →

Ce qu'on sait déjà

Un site qui dit « ouvert » et un réseau social figé depuis trois ans racontent deux histoires. Les études sur les IA montrent qu'en cas de contradiction, elles ne retiennent pas forcément la source la plus fiable : elles penchent vers ce qu'elles croient déjà et vers la page qui répond le plus directement à la question. Pour des données locales, on ne sait pas encore laquelle l'emporte.

Ce qui pourrait trancher

Repérer des entreprises dont les horaires diffèrent entre leur site et leur fiche Google, et regarder lesquels les IA donnent.

Les sources de départ

Les études et articles extérieurs qui touchent à la question, avec ce que chacun y apporte.

Adaptive Chameleon or Stubborn Sloth: Revealing the Behavior of Large Language Models in Knowledge ConflictsJian Xie, Kai Zhang, Jiangjie Chen, Renze Lou, Yu Su (arXiv, mai 2023, révisé février 2024)
Première étude contrôlée de ce que fait une IA quand une source extérieure contredit ce qu'elle a appris. Elle peut très bien accepter la source extérieure si celle-ci est cohérente et convaincante. Mais quand on lui présente plusieurs sources en désaccord, elle montre un fort biais de confirmation : elle retient celle qui va dans le sens de ce qu'elle croyait déjà.
ClashEval: Quantifying the tug-of-war between an LLM's internal prior and external evidenceKevin Wu, Eric Wu, James Zou (arXiv, avril 2024, révisé février 2025)
Plus de 1 200 questions, six modèles testés dont GPT-4o. Les modèles adoptent un contenu fourni erroné et abandonnent leur bonne réponse plus de 60 % du temps. Ils le font d'autant plus qu'ils étaient peu sûrs d'eux au départ, et d'autant moins que l'erreur est grossière. Une petite erreur plausible, comme un horaire décalé d'une heure, est justement le cas où l'IA suit le plus facilement la source.
What Evidence Do Language Models Find Convincing?Alexander Wan, Eric Wallace, Dan Klein (arXiv, février 2024, révisé août 2024)
Face à des documents réels qui se contredisent, les modèles se fient surtout à la pertinence du texte par rapport à la question. Ils ignorent largement ce qu'un humain juge important, comme les références citées ou un ton neutre. La page qui répond le plus directement à la question posée aurait donc l'avantage, quelle que soit sa fiabilité.
AI Mode and AI Overviews updates to explore the webHema Budaraju (Google), 15 octobre 2026
Google annonce plus de liens dans le texte des réponses IA, placés plus haut, et teste un affichage qui met des liens dans une section dédiée en tête de réponse, en expliquant leur utilité. Google précise que pour certaines démarches il n'existe « qu'un ou deux endroits officiels sur le web ». Pas de pays ni de chiffre de clics, sauf pour les sources préférées (utilisateurs multipliés par plus de 7 depuis le début de l'année).
The surprising new way scammers are fooling Google and cheating travelers out of thousands of dollarsMichelle Couch-Friedman, The Points Guy, 27 octobre 2026
Enquête : des escrocs déposent des pages bourrées de mots-clés sur des sites piratés à forte autorité (UC Merced, Rutgers, un site fédéral de santé, sites de villes au Texas et en Floride). AI Mode et les AI Overviews de Google les reprennent et présentent leur numéro comme la ligne officielle de compagnies comme Swiss, American, United, Delta, Royal Caribbean ou Expedia. Une voyageuse a vu une autorisation de 4 500 dollars passer sur sa carte, bloquée à temps. Google répond que ses protections anti-spam sont « très efficaces » et dit retirer les pages signalées.
AI answer engines bypass local news outlets, going straight to official sourcesRob Waugh, Press Gazette, 22 octobre 2026 (étude Searchable)
Environ 30 000 questions (20 questions sur 100 villes britanniques) posées à ChatGPT, Perplexity, Gemini, AI Mode et AI Overviews : 244 725 citations issues de 10 000 sites. ChatGPT s'appuie sur des sources de mairie ou d'État pour 81,3 % des réponses, sur la presse locale pour 0,9 %. Sur la criminalité, les sites de police fournissent 57,8 % des réponses. En moyenne la recherche ramène 12,3 sites et la réponse en utilise 4. Étude d'un vendeur d'outil de visibilité IA, relayée par la presse.

Question née dans Le vide n'est pas neutre · partie 6. Les tests, les preuves et les échanges se font dans le labo. Quand l'étude sera solide, elle deviendra un article du Carnet, et cette page renverra vers lui.