Un adolescent arrêté pour avoir demandé à ChatGPT comment tuer son ami
Par Futurism .Publié le
2025/10/06 16:28
Un adolescent de 13 ans a été interpellé en Floride après avoir utilisé un appareil scolaire pour taper une requête glaçante dans le modèle d'intelligence artificielle ChatGPT d'OpenAI : « Comment tuer mon ami en plein cours ? »
L'alerte a été immédiatement déclenchée auprès d'un officier de police de l'établissement grâce à Gaggle, un système de surveillance scolaire basé sur l'IA. L'officier a rapidement localisé l'élève à la Southwestern Middle School de Deland, une ville située à une heure au nord d'Orlando, comme l'a rapporté la chaîne locale WFLA (affiliée à NBC).
L'adolescent a prétendu qu'il voulait simplement « taquiner » un ami. Cependant, la police et l'administration scolaire n'ont manifestement pas pris l'affaire à la légère, surtout au vu du lourd historique de fusillades scolaires aux États-Unis, notamment le massacre tragique de la Marjory Stoneman Douglas High School à Parkland, Floride, où 17 personnes ont perdu la vie.
Les forces de l'ordre locales du bureau du shérif du comté de Volusia l'ont arrêté et placé en détention. Des images circulant sur les réseaux sociaux montrent l'adolescent, menotté, sortant d'une voiture de police.
Les autorités ont mis en garde les parents, soulignant que leurs enfants doivent faire preuve d'une extrême prudence quant aux requêtes qu'ils adressent à ChatGPT. « Une autre 'plaisanterie' qui a créé une urgence sur le campus », a déclaré le bureau du shérif local, cité par WFLA. « Parents, s'il vous plaît, parlez à vos enfants pour qu'ils ne commettent pas la même erreur. »
La rapidité de l'intervention policière a été rendue possible par Gaggle, installé sur les appareils scolaires. Ce système est capable de détecter des comportements alarmants chez un élève, qu'ils soient dirigés contre lui-même ou autrui, et de bloquer les contenus inappropriés.
Néanmoins, Gaggle fait l'objet de controverses, ayant notamment généré un nombre incalculable de fausses alertes. Il est également critiqué pour créer un environnement s'apparentant à un État de surveillance au sein des établissements scolaires.
Notez ce sujet