IA et surveillance scolaire : quand les algorithmes multiplient les arrestations abusives
Par Joe Wilkins .Publié le
2026/01/19 12:38
De nos jours, les systèmes de surveillance pilotés par l'intelligence artificielle sont omniprésents. Ils scrutent nos routes, traquent nos achats en magasin et s'immiscent désormais jusque dans les toilettes des établissements scolaires.
Pourtant, cette omniprésence cache un revers de médaille alarmant : une propension excessive à signaler des comportements jugés suspects, entraînant un nombre stupéfiant d'arrestations et de détentions arbitraires.
Une enquête récente du Milwaukee Independent révèle que les écoles ayant déployé des dispositifs de surveillance pour filtrer les échanges en ligne liés à la violence enregistrent un nombre de signalements sans précédent. Si la majorité de ces alertes ne constituent en rien des menaces réelles, elles débouchent pourtant fréquemment sur des mesures d'enfermement forcé.
À titre d'exemple, dans un district scolaire de Lawrence, au Kansas, l'outil de surveillance numérique Gaggle a généré plus de 1 200 alertes en dix mois. L'enquête du journal démontre toutefois que les deux tiers de ces signalements étaient totalement infondés.
Si de nombreuses fausses alertes pourraient être classées sans suite, la réalité est tout autre dans les États appliquant des lois de « tolérance zéro », comme le Tennessee ou la Floride. Dans ces régions, les établissements sont légalement tenus de signaler à la police le moindre propos étudiant faisant allusion à la violence, quelle qu'en soit la forme.
Dans le district scolaire du comté de Polk, en Floride — où Gaggle a épinglé environ 500 élèves en quatre ans — au moins 72 mineurs ont été arrêtés ou hospitalisés de force en vertu du Baker Act, une loi permettant l'évaluation psychiatrique involontaire.
« Un nombre très élevé d'enfants ayant subi ces examens forcés décrivent une expérience traumatisante et destructrice, loin de constituer un soutien à leur santé mentale », a confié Sam Boyd, avocat au Southern Poverty Law Center, au journal Independent.
La plupart de ces élèves ignorent que leurs courriels, leurs tchats et leurs recherches Google sur le matériel scolaire sont surveillés, et plus encore qu'ils commettent la moindre infraction. C'est le cas de la fille de Lesley Mathis, une mère résidant dans le Tennessee. L'adolescente, en classe de quatrième, a été arrêtée, interrogée, soumise à une fouille corporelle intégrale et incarcérée une nuit entière pour une simple joute verbale en ligne.
Victime de brimades de la part de ses camarades qui la raillaient sur son teint prétendument « mexicain », la jeune fille avait rétorqué par bravade : « Jeudi, on tue tous les Mexicains ».
Bien que ces propos soient d'une grande vulgarité, ils relevaient manifestement d'une réaction immature face au harcèlement et non d'une menace terroriste. « Je me suis demandé dans quelle Amérique nous vivions », confie Lesley Mathis. « Tout cela à cause d'une technologie stupide qui se contente de détecter des mots-clés sans jamais analyser le contexte. »
Aux États-Unis, plusieurs études démontrent que les jeunes ayant connu la détention — même pour de courtes périodes de garde à vue — présentent des parcours de vie plus précaires : taux d'incarcération plus élevé à l'âge adulte, accès plus difficile à l'emploi stable et santé fragile.
Pourtant, certains administrateurs scolaires considèrent que le risque en vaut la chandelle, bien que rien ne prouve que ces technologies réduisent réellement la violence en milieu scolaire. Comme l'a résumé Anne Costello, membre du conseil scolaire de Lawrence, lors d'une réunion en 2024 : « Il faut parfois savoir accepter certains sacrifices au nom de l'intérêt général. »
Notez ce sujet