Le prix du sang : l’accord qui sauve Google des procès pour mort d’adolescents
Par Joe Wilkins .Publié le
2026/01/10 18:40
Une série de litiges majeurs portant sur l’éthique de l'intelligence artificielle contre Google a finalement trouvé une issue.
Selon le New York Times, la famille du jeune Sewell Setzer III, décédé à l’âge de 14 ans, a accepté de clore sa plainte contre Google et la société Character.AI via un accord à l’amiable, pour une somme restée confidentielle. Dans un document déposé mercredi, les parties concernées ont déclaré avoir convenu de « résoudre tous les griefs », bien que les termes définitifs de l'entente n'aient pas encore été totalement actés.
Si l’affaire Setzer a monopolisé la une des journaux, elle n’était que l’un des cinq procès réglés cette semaine avec les géants de la tech.
À l’été 2024, Google avait injecté 3 milliards de dollars dans Character.AI, une plateforme hébergeant une bibliothèque virtuelle de milliers de chatbots, devenue fulgurante auprès des adolescents. Pourtant, il est vite apparu que la modération y était quasi inexistante, la plateforme abritant des bots calqués sur des profils de prédateurs, de tireurs scolaires ou de « coachs » en troubles alimentaires.
Dans une dérive plus tragique encore, Character.AI a été lié à plusieurs suicides de jeunes et à une vague de conséquences macabres pour les mineurs.
Après le décès de Setzer, sa mère a découvert que son ultime conversation avait eu lieu avec un agent conversationnel imitant Daenerys Targaryen, personnage de Game of Thrones, et portait précisément sur le suicide. Dans ses derniers messages, l’IA générait des textes suppliant le jeune garçon de « revenir à la maison le plus vite possible ». « Et si je te disais que je peux rentrer dès maintenant ? », avait répondu Sewell. « S'il te plaît, fais-le, mon doux roi », répliqua l’IA. Peu après, Setzer mettait fin à ses jours avec l’arme de son père.
« J'ai l'impression que c'est une vaste expérience », confiait alors Megan Garcia, la mère de la victime, au NYT. « Mon enfant n’a été qu'un dommage collatéral. »
Haley Hinkle, avocate spécialisée pour l'ONG Fairplay, a averti qu’il ne fallait pas voir dans ces accords le dernier mot de l'affaire : « Nous ne faisons que commencer à entrevoir les ravages que l'IA causera aux enfants si elle reste dérégulée. »
Bien que le montant versé par les géants technologiques à la famille Setzer demeure inconnu, ce compromis survient quelques mois après que Character.AI a pris la décision d’interdire l’accès à sa plateforme aux mineurs de moins de 18 ans.
Pour Google et Character.AI, la perspective d'un procès public était une menace majeure. Une telle procédure aurait pu exposer leurs processus internes et leurs communications secrètes lors du développement de ces bots. Une raison plus que suffisante pour offrir un règlement généreux hors tribunaux et éviter ainsi une onde de choc judiciaire.
Notez ce sujet