L’IA de Google recommande de mettre de la colle sur une pizza
Par Johannah Lopez .Publié le
2025/03/21 10:47
L'outil de recherche basé sur l'intelligence artificielle de Google, "AI Overviews" (Aperçus IA), a récemment suscité de vives inquiétudes en diffusant des informations erronées, voire dangereuses. L'incident le plus marquant ? Une suggestion d'ajouter de la colle à une recette de pizza.
Cette méprise a son origine dans une farce lancée par Katie Notopoulos, une personnalité influente sur Internet, qui avait ironiquement proposé d'incorporer de la colle dans une pizza. L'IA de Google a pris cette boutade au premier degré, allant jusqu'à recommander l'ajout d'un huitième de tasse de colle Elmer's à la sauce tomate.
Il est crucial de souligner que la colle est strictement non comestible et que son ingestion peut entraîner des complications toxiques graves pour la santé.
Interrogées sur cette question, d'autres plateformes d'IA telles que Perplexity AI et ChatGPT ont immédiatement alerté sur le danger de cette pratique, confirmant que la colle ne doit en aucun cas être consommée et expliquant l'origine humoristique de ce mème.
Ce dérapage n'est pas un cas isolé. L'IA de Google a également montré des lacunes dans la gestion d'autres requêtes, y compris celles relatives à ses propres produits. Par exemple, elle s'est avérée incapable de fournir des instructions correctes pour réaliser une capture d'écran en mode navigation privée sur Chrome, proposant des solutions erronées et contradictoires.
Ces erreurs mettent en évidence les limites actuelles de l'IA en matière de fiabilité de l'information. Malgré les avancées technologiques, les réponses générées par l'IA peuvent encore souffrir de problèmes d'interprétation contextuelle et de propagation d'informations fallacieuses.
Renée DiResta, responsable de la recherche technique au Stanford Internet Observatory, a exprimé sa préoccupation quant au risque que les outils de recherche IA, tels qu'AI Overviews, amplifient la diffusion de conseils médicaux inexacts auprès d'un public non averti. Elle a souligné que l'outil ne semble pas respecter les normes de rigueur établies de longue date pour les informations de santé, notamment la politique "Your Money or Your Life" (Votre argent ou votre vie), qui impose des critères de qualité particulièrement stricts pour les requêtes liées à la finance et à la santé.
Des cas ont été signalés où l'IA a généré des résultats de recherche contenant des informations médicales manifestement fausses, issues de sites de faible qualité intégrés aux données d'entraînement. DiResta a mis en doute l'application rigoureuse de cette politique par AI Overviews. En réponse, Google a reconnu les problèmes et annoncé travailler à des améliorations, notamment en déployant des "ajustements supplémentaires" pour renforcer la qualité des informations dans les domaines sensibles comme l'actualité et la santé.
Tout en saluant ces efforts, DiResta a souligné qu'ils transfèrent une part importante de la responsabilité sur les utilisateurs. La transparence apportée par l'affichage des URL permet de vérifier les sources, mais repose sur la confiance établie dans la qualité des résultats. Elle a insisté sur la nécessité d'appliquer rigoureusement la politique "Your Money or Your Life" dans les outils de recherche IA.
Il est impératif que les principes éthiques fondamentaux soient au cœur du développement des nouvelles capacités de recherche IA, afin de prévenir la désinformation médicale. En tant qu'utilisateurs, nous devons systématiquement vérifier les informations inattendues ou inhabituelles en les croisant avec d'autres sources fiables. Et surtout, n'ingérez jamais de substances non destinées à l'alimentation.
Source: devx
Notez ce sujet