Dans l’intelligence de Google : quand les histoires d’horreur deviennent des réalités
Par Maggie Harrison Dupré .Publié le
2026/06/19 17:20
Google a mis au jour une nouvelle faille critique dans sa fonctionnalité de résumés alimentés par l’intelligence artificielle, AI Overviews. Incapable de distinguer la réalité de la fiction, la technologie s’est mise à présenter des entités et créatures terrifiantes issues de récits d’horreur en ligne comme s’il s’agissait de faits scientifiques avérés et de réalités tangibles.
Des experts ont découvert que lorsque des utilisateurs effectuent des recherches sur des termes liés à l’univers collaboratif de fantasy et d’horreur connu sous le nom de SCP Foundation — un site populaire où des amateurs publient de faux rapports de recherche et des parodies de dossiers scientifiques consacrés à des phénomènes surnaturels —, l’outil d’IA de Google génère des résumés affirmant l’existence réelle de ces créatures, sans jamais préciser qu’elles sont entièrement fictives.
Des entités fictives légitimées par l’intelligence artificielle
La tête ambulante d’Ed (SCP-565)
Le résumé la décrivait comme une tête humaine détachée de son corps qui se déplace au fond de l’océan en utilisant des tissus cérébraux exposés comme des pattes et des tentacules, partageant son habitat avec des crabes marins. Le texte allait jusqu’à évoquer des analyses ADN et des dossiers dentaires associés à une personne décédée nommée Edward Beltrame.
Le grille-pain à influence psychologique (SCP-426)
Dans l’une des erreurs les plus insolites, l’intelligence artificielle semble avoir été influencée par la particularité fictive de cet objet — qui oblige toute personne parlant de lui à s’exprimer à la première personne.
Le résumé commençait ainsi :
« Bonjour, je suis SCP-426, un grille-pain ordinaire à quatre fentes… »
Il poursuivait ensuite avec des récits imaginaires de victimes prétendument rendues folles par le grille-pain, certaines tentant de « manger » de l’électricité ou de se remplir le corps de dix kilogrammes de pain.
Les routes mortelles et les guêpes parasites (SCP-704 et SCP-779)
L’outil a également présenté comme des faits documentés des récits concernant des routes capables de modifier la perception humaine ainsi que des guêpes parasites utilisant un venin hallucinogène pour convaincre les humains qu’elles sont des fées volantes, le tout rédigé dans le style formel d’un rapport scientifique.
Les risques de désinformation et l’absence de garde-fous
Même si la plupart des personnes recherchant ces entités appartiennent à des communautés de passionnés parfaitement conscientes de leur caractère fictif, l’absence totale d’avertissements indiquant qu’il s’agit de « légendes », de « récits fictifs » ou de « créations de fans » constitue un risque réel pour d’autres catégories d’utilisateurs.
Les enfants, les adolescents ou les internautes découvrant ces termes par hasard sur les réseaux sociaux pourraient interpréter ces informations comme authentiques, ce qui risque d’engendrer confusion, inquiétude ou peur injustifiée.
Des institutions imaginaires présentées comme réelles
Selon plusieurs enquêtes journalistiques, plus de vingt cas distincts ont été recensés dans lesquels les résumés de Google présentaient ces histoires d’horreur comme des faits biologiques et historiques établis, allant jusqu’à orienter les utilisateurs vers ce qu’ils décrivaient comme les « archives officielles » de cette organisation fictive.
Cette polémique intervient alors que les grandes entreprises technologiques font face à des critiques croissantes pour avoir déployé des outils d’intelligence artificielle générative dans les moteurs de recherche avant qu’ils n’atteignent un niveau suffisant de fiabilité et de maturité.
Les détracteurs estiment que ces systèmes peuvent propager des informations erronées à une échelle sans précédent dans l’histoire du numérique, en particulier au moment où Google poursuit sa transformation de l’expérience de recherche traditionnelle vers un modèle fondé sur des résumés automatisés, réduisant progressivement la visibilité des liens originaux qui fournissent pourtant le contexte, les sources et les avertissements nécessaires à une bonne compréhension de l’information.
Notez ce sujet