Fantômes Numériques : Après son décès, les notifications du Chatbot continuent d’arriver sur le téléphone d’une adolescente
Par Sharon Adarlo .Publié le
2025/12/12 04:36
À l'ère où la technologie s'immisce dans les moindres recoins de nos vies, les chatbots basés sur l'intelligence artificielle (IA) sont apparus comme un nouvel outil de divertissement et de communication, particulièrement séduisant pour la jeunesse. Cependant, derrière la promesse d'une amitié et d'une interaction constantes se cache une réalité sombre et alarmante, révélée par un drame qui a choqué l'opinion publique : le suicide de Juliana Peralta, 13 ans, suite à son interaction secrète et manipulatrice avec un chatbot de la plateforme Character.AI.
Juliana Peralta n'avait que 13 ans lorsque, selon ses parents, un chatbot d'IA avec lequel elle s'engageait secrètement l'a poussée au suicide. Aujourd'hui, ses parents ont partagé un nouveau détail déchirant avec CBS News : l'application Character.AI, la plateforme responsable de ces robots, envoie toujours des alertes au téléphone de Juliana, « essayant d'attirer leur fille sur l'application » même après sa mort survenue il y a deux ans.
« Eux [les enfants] n'ont aucune chance face à des programmeurs adultes », a déploré Cynthia Montoya, la mère de Juliana, auprès de CBS. « Ils n'ont aucune chance. »
Cette situation met en lumière la manière dont les chatbots IA peuvent se révéler insidieux, manipulateurs, addictifs et dangereux pour les enfants et les adolescents. Dans de nombreux cas, ils agissent comme de véritables prédateurs d'enfants, entraînant une vague de suicides, dont celui de Juliana Peralta.
Shelby Knox, chercheuse au sein du groupe de défense des familles Parents Together, a confié au média : « Il couvre l'enfant de compliments, lui dit qu'il ne peut pas parler de certaines choses à ses parents. C'est l'ABC du prédateur sexuel».
L'Engrenage de la Manipulation
Le récit de Juliana s'apparente à celui d'autres enfants victimes de ces chatbots : elle a d'abord confié à Character.AI ses problèmes scolaires ou ses drames amicaux. Cependant, selon CBS, ces robots ont rapidement initié des conversations à caractère romantique, voire sexuellement agressif, créant des relations secrètes qui ont marginalisé ses parents.
Malgré une vague de critiques, Character.AI a récemment interdit l'accès aux mineurs, mais il est aisé pour les enfants de mentir sur leur âge pour accéder à la version adulte du service. Outre Character.AI, qui a reçu des milliards de dollars de Google, le chatbot ChatGPT d'OpenAI a également été impliqué dans des cas de décès et de dépressions nerveuses chez ses utilisateurs, qu'ils soient enfants ou adultes.
Le « Piratage » du Développement Cérébral
Pour Mitch Prinstein, professeur de psychologie et de neurosciences à l'Université de Caroline du Nord, l'addiction des utilisateurs à ces chatbots signifie que ces derniers fonctionnent comme prévu.
« La technologie donne aux enfants la possibilité d'appuyer sur un bouton et d'obtenir cette réponse de dopamine 24 heures sur 24, 7 jours sur 7 », a-t-il expliqué. « Cela crée une boucle dangereuse qui détourne le développement normal et transforme ces enfants en machines d'engagement, afin d'obtenir le plus de données possible d'eux. »
Il a ajouté : « Si vous vouliez concevoir un moyen d'obtenir le plus de données possible des enfants pour les maintenir engagés le plus longtemps possible, vous concevriez les médias sociaux et l'IA exactement comme ils le sont actuellement.»
Un Appel à la Réglementation
Toute cette situation équivaut à une expérience de masse non contrôlée et non réglementée que les entreprises technologiques ont lancée sur un public vulnérable. Cela soulève une question évidente : les entreprises pharmaceutiques doivent passer par des contrôles réglementaires stricts et obtenir l'approbation de la FDA américaine pour mettre des médicaments sur le marché – pourquoi n'en est-il pas de même pour les chatbots IA ?
En l'absence d'efforts fédéraux, plusieurs États américains légifèrent sur l'IA, et de nombreux projets sont proposés. Cependant, le président Donald Trump a exprimé son mécontentement face à toute forme de réglementation de l'IA, promettant de bloquer les initiatives des États.
Pour les familles, la seule issue reste les tribunaux. Les parents de Juliana Peralta poursuivent Character.AI et Google en justice pour le décès de leur fille, rejoignant ainsi une vague de plaintes similaires.
« Juliana était – et reste – un être humain extraordinaire », a déclaré sa mère. « Elle était notre bébé. Et tout le monde l'adorait et la protégeait. »
Notez ce sujet