Google étend son IA à la santé malgré des antécédents d’erreurs grotesques
Par Futurism .Publié le
2025/03/21 10:54
Google a récemment annoncé son intention d’étendre l’utilisation de sa fonctionnalité AI Overviews (Vue d’ensemble IA) pour inclure des conseils médicaux générés par les utilisateurs, malgré un historique marqué par des erreurs flagrantes et des informations trompeuses. Cette fonctionnalité, qui avait déjà suscité des moqueries pour ses suggestions étranges comme l’ajout de colle à la pizza, sera désormais utilisée pour fournir des recommandations de santé, ce qui soulève de sérieuses inquiétudes quant à la précision et à la sécurité des informations fournies.
Karen DeSalvo, responsable principale de la santé chez Google, a affirmé dans un billet de blog optimiste que « les récents progrès des modèles Gemini liés à la santé » et des systèmes de qualité et de classement « leaders dans leur catégorie » permettraient à cette fonctionnalité peu fiable de couvrir « des milliers de sujets de santé supplémentaires ». Cependant, cette initiative suscite des craintes, notamment avec l’introduction d’une nouvelle fonctionnalité appelée What People Suggest (Ce que les gens suggèrent), qui proposera des conseils de santé émanant d’amateurs sur Internet. Bien que DeSalvo ait confirmé que cette fonctionnalité est disponible sur les appareils mobiles aux États-Unis, notre équipe n’a pas pu y accéder, que ce soit via l’application Google ou le web.
De nombreux rapports, y compris ceux de Futurism, ont documenté que la fonctionnalité AI Overviews de Google fournit des informations erronées de manière grotesque. Qu’il s’agisse de prétendre que les bébés éléphants peuvent tenir dans la paume d’une main humaine ou de suggérer d’ajouter de la colle à la pizza, cette fonctionnalité a eu du mal à distinguer les faits de la fiction depuis son lancement il y a près de deux ans. Une récente étude du Tow Center for Digital Journalism de l’Université Columbia a même révélé que le modèle de conversation Gemini de Google avait répondu incorrectement à des questions basiques dans 60 % des cas.
Interrogé sur cette question, un porte-parole de Google a déclaré : « Nos recherches montrent que les gens apprécient d’entendre les opinions d’autres personnes confrontées à des questions de santé similaires. La fonctionnalité What People Suggest aide à trouver ces informations de manière plus organisée et utile. Elle a été soumise à des tests rigoureux et à des évaluations cliniques par des médecins agréés, et elle apparaît aux côtés de contenu de santé fiable sur le moteur de recherche. »
Ironiquement, Google employait auparavant des centaines de personnes dont le travail était centré sur la santé, mais en 2021, l’entreprise a fermé sa division santé et licencié ou réaffecté son personnel. Des dizaines d’experts interrogés par Bloomberg l’été dernier ont exprimé leurs craintes que l’IA de Google ne fournisse pas des informations précises et de haute qualité dans le domaine des soins de santé, et rien n’indique que ces préoccupations aient été dissipées depuis.
Rajiv Leventhal, analyste principal chez eMarketer, a déclaré : « Si l’ambition générale de Google est de bouleverser l’ensemble de l’industrie de la santé, aucune grande entreprise technologique n’y est parvenue. La santé est un domaine unique. »
Nous avons contacté Google pour savoir comment l’entreprise prévoit de s’assurer que les informations de santé fournies par son IA sont précises et sûres. La dernière fois que nous avons interrogé l’entreprise sur AI Overviews, elle nous a répondu qu’« il pourrait ne pas y avoir beaucoup de contenu de haute qualité disponible sur le web » pour certaines questions, ce qui explique que la fonctionnalité puisse parfois se tromper.
Un porte-parole de l’entreprise a ajouté : « Nous avons des contrôles et des politiques pour protéger les utilisateurs des réponses de faible qualité, et lorsque des problèmes surviennent, nous utilisons ces exemples pour améliorer les performances et prendre les mesures appropriées conformément à nos politiques. »
Source : Futurism
Notez ce sujet