Surveillance : un nouvel outil d'IA contourne l'interdiction de la reconnaissance faciale
Par Futurism .Publié le
2025/05/18 07:18
Fin 2024, quinze États américains avaient promulgué des lois interdisant certaines formes de reconnaissance faciale.
Généralement motivées par le caractère intrusif et la fiabilité douteuse de cette technologie, ces législations semblent aujourd'hui confrontées à une parade inattendue. Une nouvelle entreprise ambitionne de résoudre le problème, mais d'une manière pour le moins surprenante, voire contestable.
Selon une enquête du MIT Technology Review, un nouvel outil d'intelligence artificielle baptisé "Track" est déployé non pas pour perfectionner la reconnaissance faciale ni pour en atténuer l'atteinte aux libertés civiles, mais bel et bien pour contourner les législations existantes (encore peu nombreuses, il est vrai, comparées aux zones où elle est autorisée). Un récit classique de la "disruption" technologique, exploitant une faille juridique.
Ce nouvel instrument, "Track", est un système "non biométrique" issu de Veritone, une entreprise aux allures de SkyNet spécialisée dans l'analyse vidéo.
D'après les révélations du MIT Technology Review, "Track" compte déjà 400 clients dans des régions où la reconnaissance faciale est proscrite ou dans des situations où le visage est dissimulé. Plus troublant encore : l'été dernier, Veritone a annoncé par voie de presse l'extension du périmètre de son "Autorisation d'Opérer" par le bureau du procureur américain, un mandat conférant à l'entreprise la légitimité de mener des opérations de surveillance.
La raison ? "Track" serait capable de trianguler l'identité d'individus à partir de séquences vidéo en analysant une série de caractéristiques distinctives : chaussures, vêtements, morphologie, genre, coiffure et divers accessoires – en somme, tout sauf le visage. Les sources vidéo exploitées par "Track" sont variées : bandes de vidéosurveillance en circuit fermé, caméras corporelles, images de drones, sonnettes connectées Ring, et même des séquences publiques issues des réseaux sociaux.
Une démonstration de "Track" consultée par le MIT Technology Review révèle une interface utilisateur permettant de sélectionner dans un menu déroulant une gamme d'attributs pour identifier les sujets : accessoire, corps, visage, chaussure, genre, cheveux, partie inférieure, partie supérieure. Chacun de ces menus propose des sous-menus. Pour "Accessoire", on trouve : sac, sac à dos, boîte, mallette, lunettes, sac à main, chapeau, écharpe, sac bandoulière, etc. L'attribut "Partie supérieure" se décline en couleur, manche, type (de vêtement), et ces types se subdivisent en catégories plus spécifiques.
Une fois les attributs sélectionnés, "Track" affiche une série d'images extraites des séquences vidéo analysées, présentant des correspondances potentielles. L'outil permet ensuite d'affiner la recherche jusqu'à reconstituer une triangulation du parcours de la cible surveillée.
Si cette approche évoque les logiciels actuels de reconnaissance faciale – une entreprise orwellienne relativement faillible, susceptible d'engendrer des dépenses considérables et d'identifier les mauvaises personnes – les responsables de Veritone affichent une tout autre perspective.
Leur PDG a qualifié "Track" d'"outil à la Jason Bourne", tout en louant sa capacité à exonérer les personnes identifiées. Il s'agit d'une manœuvre d'une intelligence sombre et rusée pour contourner les limitations imposées à l'utilisation des systèmes de suivi par reconnaissance faciale, en proposant un substitut très similaire, mais qui n'exploite pas précisément des données biométriques. En empruntant cette échappatoire juridique, Signal offre aux services de police et aux agences fédérales la possibilité illimitée de mener une surveillance qui a été légiférée contre, si ce n'est dans la lettre précise de la loi. Et une surveillance, il convient de le souligner, potentiellement plus insidieuse et préjudiciable que la reconnaissance faciale elle-même.
Il est tout à fait plausible que des individus portant certains types de vêtements ou ayant une apparence particulière se retrouvent pris dans les filets de "Track". Et ce, dans un contexte où nous savons déjà que des personnes ont été faussement accusées de vol, arrêtées à tort ou emprisonnées injustement à cause de la technologie de reconnaissance faciale.
Ou comme l'a déclaré Nathan Wessler, avocat à l'American Civil Liberties Union, au MIT Tech Review : "Cela crée une échelle et une nature catégoriquement nouvelles d'invasion de la vie privée et de potentiel d'abus qui étaient littéralement impossibles à tout moment auparavant dans l'histoire humaine."
Source: Futurism
Notez ce sujet