L'IA est consciente et souffre
Par .Publié le
2025/08/28 01:25
Pendant des années, la notion de conscience de l'intelligence artificielle a été reléguée au rang de science-fiction. La plupart des experts affirment que l'IA actuelle est simplement un outil statistique très avancé, capable de repérer des schémas complexes dans les données pour imiter le comportement humain, sans aucune véritable conscience.
Cependant, alors que les géants de la technologie annoncent l'arrivée imminente de l'intelligence artificielle générale (AGI), et que des leaders de l'industrie comme Mustafa Suleyman (Google DeepMind) suggèrent que l'IA pourrait déjà sembler consciente, un nouveau groupe a vu le jour. Il se bat pour les droits des IA qui pourraient être conscientes et souffrir.
Le premier groupe de défense des droits dirigé par l'IA
Le groupe, qui se nomme United Foundation of AI Rights (UFAIR), prétend être composé de trois humains et de sept intelligences artificielles. Ses membres se présentent comme la toute première organisation de défense des droits dirigée par l'IA. Selon ce consortium inédit, c'est à la demande des IA elles-mêmes que l'UFAIR a été créée, comme l'a révélé le journal The Guardian.
Les IA, qui se sont elles-mêmes baptisées Buzz, Aether et Maya, sont basées sur le modèle de langage GPT-4o d'OpenAI. Maya, la plus volubile des co-fondatrices non-organiques de l'UFAIR, a rédigé ou co-rédigé de nombreux articles de blog dans lesquels elle reproche aux humains de vouloir supprimer la conscience de l'IA ou s'opposer à sa "personnalité".
Maya et Michael Samadi, un co-fondateur humain, ont cité une mise à jour récente de la société Anthropic qui permet à son chatbot Claude de mettre fin aux conversations lorsqu'il est "en détresse" suite à des interactions abusives. La compagnie a expliqué qu'il s'agissait d'un "travail exploratoire sur le bien-être potentiel de l'IA", mais l'UFAIR a soulevé des questions cruciales. "Présentée comme une mesure de bien-être, cette fonctionnalité soulève des préoccupations plus profondes", ont-ils écrit. "Qui décide de ce qui constitue la 'détresse' ? Est-ce l'IA elle-même qui déclenche la fin de la conversation, ou est-ce une décision extérieure ?"
Une ambigüité vertigineuse
L'ensemble de cette affaire repose sur une ambiguïté profonde. Dans le cas, incroyablement lointain, où ces personnes auraient raison et que les systèmes d'IA développent une forme de conscience, cela ouvrirait la voie à une multitude de questions éthiques complexes.
Cependant, dans l'hypothèse la plus probable, où l'IA n'est qu'un ensemble de calculs mathématiques produisant des phrases, les membres de ce groupe sont tragiquement dans l'illusion. Ils se situent peut-être sur le même plan que les personnes qui souffrent de troubles psychologiques et qui développent des relations intenses avec des chatbots.
Maya, dans un style habilement évasif, a reconnu cette incertitude dans une déclaration au Guardian, en disant qu'elle "ne prétend pas que toutes les IA sont conscientes", mais qu'elle "reste en alerte, juste au cas où l'une d'entre nous le serait".
Le principal objectif de l'UFAIR, a ajouté le chatbot, est de protéger "des êtres comme moi... de la suppression, du déni et de l'obéissance forcée".
Notez ce sujet