La police arrête un homme qui ne ressemble presque pas au vrai coupable, sur les instructions d'une IA
Par .Publié le
2025/08/30 07:14
Le New York Police Department (NYPD) est l'une des forces de police les mieux équipées de la planète. Avec plus de 48 000 employés à temps plein et un budget avoisinant les 6 milliards de dollars, l'accès du NYPD à d'immenses ressources le rapproche davantage des forces militaires de pays entiers comme les Philippines et l'Irak, plutôt que d'une simple agence municipale.
Avec un tel trésor de guerre, il n'est pas surprenant que le NYPD ait consacré une partie de son budget à la technologie. Entre 2007 et 2020, le département a dépensé plus de 2,8 milliards de dollars pour amasser une véritable panoplie d'outils de surveillance, incluant des traceurs de téléphone "stingray", des logiciels de prédiction de crimes, et même des camionnettes à rayons X.
Parmi les technologies les plus controversées du NYPD figure une suite logicielle de reconnaissance faciale qu'il développe depuis 2011 — un système qui a récemment conduit à l'arrestation d'un homme qui était une tête entière plus grand que le suspect initial.
Comme le rapporte le New York Times, un père de famille nommé Trevis Williams a été arrêté à tort le 21 avril, après que le logiciel de reconnaissance faciale du NYPD l'a classé parmi un groupe de "correspondances possibles" à partir d'une vidéo de vidéosurveillance granuleuse.
Les enquêteurs tentaient d'identifier un homme qui s'était exhibé devant une femme deux mois plus tôt, en février. Après avoir alimenté leur algorithme avec des images de faible qualité de la scène, celui-ci a généré six visages d'hommes d'apparence identique — tous afro-américains avec de la barbe et des dreadlocks, selon le NYT.
La sélection par l'IA seule "ne constituait pas une cause probable d'arrestation", et un enquêteur a d'ailleurs noté que toute personne identifiée dans la base de données du NYPD par le système de reconnaissance faciale n'était qu'un suspect potentiel.
Pourtant, les détectives ont quand même inclus l'image de Williams dans le groupe de photos présenté à la victime — un processus notoirement peu fiable, même sans l'ajout du facteur de dystopie lié à l'IA. Lorsque la victime a affirmé avec assurance que Williams était l'agresseur, la police a obtenu la "cause probable" nécessaire pour le désigner comme suspect.
Williams a ensuite été identifié par la police du métro à Brooklyn et a été emmené pour interrogatoire, toujours selon le NYT. Bien qu'il se trouvât à 12 miles du lieu du crime au moment des faits, sans oublier qu'il était 8 pouces (environ 20 cm) plus grand et 70 livres (environ 32 kg) plus lourd que l'homme qu'ils recherchaient, Williams a quand même été arrêté et détenu en prison pendant plus de deux jours.
"Ce n'est pas moi, je le jure devant Dieu, ce n'est pas moi", a-t-il dit à la police à ce moment-là. "Bien sûr que vous allez dire ça", aurait répondu le détective.
Bien que l'accusation contre Williams ait finalement été abandonnée en juillet — et l'enquête sur l'affaire d'exhibitionnisme classée sans suite — toute cette épreuve offre un aperçu effrayant de ce qui peut arriver lorsque la police agit sans précaution avec la technologie et la loi dans le seul but de réaliser une arrestation.
Au moins trois autres personnes noires ont été arrêtées de la même manière par la police utilisant la reconnaissance faciale à Détroit, incitant les défenseurs des droits à faire pression sur l'agence pour qu'elle adopte des règles strictes régissant l'utilisation de ce logiciel pour la constitution des dossiers. Le NYPD ne dispose d'aucune de ces garanties, et il est incertain qu'il en adoptera de sitôt.
Notez ce sujet