L'intelligence artificielle considère qu'une femme handicapée n'est pas humaine.
Par Joe Wilkins .Publié le
2025/10/20 05:08
En matière d’inclusion, l’intelligence artificielle (IA) n’a pas le meilleur bilan. En tant qu'algorithmes massifs formés sur d'immenses quantités de données glanées sur Internet, les modèles d’IA sont intrinsèquement prédisposés à reproduire les biais sociaux humains.
Il n'est donc pas surprenant que l’IA ait une fâcheuse tendance à la discrimination, exacerbant souvent les préjugés fondés sur la race, le genre et l'orientation sexuelle. Cependant, comme l’a découvert une femme lors d’une visite humiliante au Département des véhicules à moteur (DMV) aux États-Unis, les systèmes d’IA sont également parfaitement capables de discriminer les personnes handicapées.
Humiliation au DMV pour un simple renouvellement
Dans un récit rapporté initialement par Wired, la tâche d'Autumn Gardiner, résidente du Connecticut, semblait simple et routinière : elle venait de se marier et se rendait au DMV pour mettre à jour son permis de conduire. Pour ce faire, les fonctionnaires devaient prendre une nouvelle photo, un processus simple qui a rapidement tourné au cauchemar à cause du programme de vérification d’identité basé sur l'IA du gouvernement de l’État.
Mme Gardiner, qui souffre du syndrome de Freeman-Sheldon—un trouble génétique rare affectant les muscles du visage, notamment autour de la bouche—a raconté que ses photos ont été rejetées les unes après les autres par le logiciel d’identification du DMV. Elle a décrit la scène à Wired comme un spectacle : "Tout le monde regardait. Ils prenaient d'autres photos."
Elle a ajouté : "C’était humiliant et étrange. Voici cette machine qui me dit que je n'ai pas de visage humain."
La discrimination par l'IA des « différences visibles »
Le syndrome de Freeman-Sheldon entraîne ce que l'on appelle une différence visible. Bien qu'il n'existe pas de liste officielle définissant ce qui constitue ou non une différence visible, le groupe de défense Changing Faces la décrit comme "une cicatrice, une marque ou une condition qui vous rend différent". Cela peut inclure des personnes ayant des taches de naissance, des brûlures, des séquelles de cancer, des conditions cranio-faciales, la perte de cheveux, des affections cutanées comme le vitiligo, ou des conditions héréditaires comme la neurofibromatose.
Une demi-douzaine de personnes ayant des différences visibles ont témoigné auprès de Wired pour raconter comment les logiciels d’IA compliquent de plus en plus leur quotidien. Les frustrations sont innombrables, allant des filtres selfie sur les réseaux sociaux aux systèmes de vérification faciale des applications bancaires.
Nikki Lilly, représentante du groupe Face Equality International, a déclaré devant les Nations Unies plus tôt cette année : "Dans de nombreux pays, la reconnaissance faciale est de plus en plus intégrée dans la vie quotidienne, mais cette technologie déçoit notre communauté."
Alors que de plus en plus d’aspects de la vie sont conditionnés par ces systèmes, une question cruciale se pose : à qui profite-t-on, et dont la vie est rendue plus difficile ?
Notez ce sujet