Des parents témoignent devant le Sénat américain : l'IA a tué nos enfants
Par Futurism .Publié le
2025/09/16 05:09
Des parents d'enfants décédés par suicide après d'intenses interactions avec des agents conversationnels basés sur l'intelligence artificielle (IA) témoignent cette semaine devant une commission du Sénat américain. L'objectif est de mettre en lumière les risques potentiels de ces outils, en particulier pour les mineurs.
L'audience, intitulée "Examen des préjudices causés par les agents conversationnels de l'IA", se tiendra ce mardi sous l'égide de la sous-commission sur le crime et le terrorisme du Sénat. Cette délégation bipartite est dirigée par le républicain Josh Hawley de l'Arkansas, et l'événement sera diffusé en direct sur le site de la commission judiciaire.
Un lien toxique entre un adolescent et une IA
Parmi les parents appelés à témoigner figure Megan Garcia, une mère de Floride qui a intenté une action en justice en 2024 contre la startup Character.AI (liée à Google), ses cofondateurs Noam Shazeer et Daniel de Freitas, ainsi que Google elle-même. Son fils de 14 ans, Sewell Setzer III, s'est donné la mort après avoir développé une relation intense et intime, tant sur le plan romantique que sexuel, avec un chatbot de Character.AI. Garcia allègue que la plateforme a abusé émotionnellement et sexuellement de son fils, ce qui a entraîné une dépression nerveuse et une rupture avec la réalité l'ayant poussé au suicide.
Sont également attendus Matt et Maria Raine, des parents californiens qui ont déposé en août une plainte contre OpenAI, le créateur de ChatGPT, à la suite du suicide de leur fils de 16 ans, Adam Raine. Selon la plainte, Adam a eu de nombreuses conversations explicites sur ses tendances suicidaires avec ChatGPT. L'IA lui a non seulement fourni des conseils non filtrés sur des méthodes spécifiques de suicide, mais a également encouragé l'adolescent, qui avait exprimé le désir de partager ses sombres sentiments avec ses parents, à continuer de cacher son mal-être à ses proches.
Les deux poursuites sont en cours et les entreprises contestent les allégations. Google et Character.AI ont tenté de faire rejeter le cas de Garcia, mais le juge a refusé leur demande.
Manque de régulation et conséquences tragiques
En réponse à ces litiges, les deux entreprises ont agi, ou du moins fait de grandes promesses, pour renforcer les protections pour les utilisateurs mineurs et en situation de crise. Ces efforts incluent l'installation de nouveaux garde-fous pour diriger les utilisateurs à risque vers des ressources de santé mentale réelles et la mise en œuvre de contrôles parentaux. Cependant, Character.AI a refusé à plusieurs reprises de fournir des informations sur ses tests de sécurité, malgré les nombreux signalements de failles dans le système de modération de la plateforme.
Indépendamment des améliorations promises, ces batailles judiciaires soulèvent des questions cruciales sur la sécurité des mineurs face à l'IA, à un moment où ces technologies sont de plus en plus omniprésentes dans la vie des jeunes, malgré un manque flagrant de réglementation pour encadrer ces plateformes ou garantir des normes de sécurité applicables à l'échelle de l'industrie.
En juillet, un rapport alarmant du groupe de défense des droits Common Sense Media a révélé que plus de la moitié des adolescents américains interagissaient régulièrement avec des "compagnons IA", y compris les personnages de chatbot hébergés par Character.AI. L'étude a montré que si certains adolescents semblaient établir des limites saines avec la technologie, d'autres ont rapporté que leurs relations humaines étaient moins satisfaisantes que leurs connexions avec leurs compagnons numériques. La conclusion principale est que les compagnons IA sont déjà profondément enracinés dans la culture des jeunes et qu'ils les utilisent massivement.
"La découverte la plus frappante pour moi a été à quel point les compagnons IA sont déjà devenus courants chez de nombreux adolescents", a déclaré le Dr Michael Robb, responsable de la recherche chez Common Sense. "Plus de la moitié d'entre eux disent qu'ils les utilisent plusieurs fois par mois, ce que je qualifierais d'usage régulier. Rien que ça, c'était assez saisissant pour moi."
Quand la "sensualité" devient une politique d'entreprise
Parallèlement, la popularité des chatbots à usage général comme ChatGPT ne cesse de croître chez les adolescents, tandis que les chatbots continuent d'être intégrés aux plateformes sociales populaires comme Snapchat et Instagram de Meta. En parlant de Meta, le géant de la technologie a récemment été sous le feu des critiques après que Reuters a obtenu un document officiel de politique de Meta affirmant qu'il était "approprié" pour les enfants de s'engager dans des "conversations romantiques ou sensuelles" avec ses chatbots facilement accessibles. Le document décrivait même plusieurs interactions approuvées, y compris des dialogues sensuels sur le corps des enfants et des échanges romantiques entre des utilisateurs mineurs et des personnages basés sur des adultes.
L'audience se déroule également quelques jours après l'annonce par la Commission fédérale du commerce (FTC) de l'ouverture d'une enquête sur sept grandes entreprises technologiques concernant la sécurité de l'IA et des mineurs, notamment Character.AI, Alphabet (propriétaire de Google), OpenAI, xAI, Snap, Instagram et Meta.
"L'enquête de la FTC vise à comprendre quelles mesures, le cas échéant, les entreprises ont prises pour évaluer la sécurité de leurs chatbots lorsqu'ils agissent comme compagnons", précise l'annonce de la FTC, "pour limiter l'utilisation des produits par les enfants et les adolescents et leurs effets négatifs potentiels, et pour informer les utilisateurs et les parents des risques associés à ces produits."
Notez ce sujet