Le patron de l’IA chez Microsoft redoute que les IA ne revendiquent bientôt des droits
Par Futurism .Publié le
2025/08/24 15:03
Dans une publication de blog cette semaine, Mustafa Suleyman, le responsable de l'intelligence artificielle chez Microsoft, a réagi à l'augmentation alarmante des crises de santé mentale liées à l'utilisation de l'IA. Il a appelé à la prudence "quant à ce qui se passe sur le chemin vers la superintelligence".
Au cœur de l'argumentaire de Suleyman ne se trouve pas la menace dystopique d'une IA qui prendrait conscience d'elle-même — une idée qui, selon de nombreux chercheurs, relève davantage de la science-fiction que des faits scientifiques — mais la conviction que cela se produit déjà.
"Ma principale inquiétude est que de nombreuses personnes finiront par croire si fermement à l'illusion des agents conversationnels comme des entités conscientes qu'elles ne tarderont pas à plaider en faveur de droits pour les IA," a écrit le gourou de la technologie. "Cette évolution constituerait un tournant dangereux dans les progrès de l'IA et mérite notre attention immédiate."
Selon Suleyman, ce mythe de la "sensation" de l'IA est déjà propagé par des figures de premier plan du secteur technologique, désireuses de débattre des implications juridiques, philosophiques et morales de la vie artificielle. Il cite des personnalités comme Demis Hassabis, PDG de Google DeepMind, Ilya Sutskever, ancien scientifique en chef d'OpenAI, et Kyle Fish, "chercheur sur le bien-être de l'IA" chez Anthropic.
De fait, des études préliminaires ont déjà révélé qu'un quart des jeunes pensent que l'IA est "déjà consciente", tandis que 58 % estiment que la technologie "prendra un jour le contrôle" du monde. Ces chiffres sont susceptibles d'augmenter, d'autant plus que des entreprises d'IA comme Character.AI proposent des compagnons virtuels conçus pour favoriser des liens émotionnels dangereux – mais lucratifs – avec les utilisateurs.
"Nous devons construire l'IA pour les humains, et non pas pour qu'elle devienne une personne numérique," met en garde Suleyman. "Les compagnons IA représentent une catégorie entièrement nouvelle, et il est urgent que nous commencions à discuter des garde-fous à mettre en place pour protéger les gens et garantir que cette technologie extraordinaire puisse remplir son rôle, celui d'apporter une valeur inestimable au monde."
Comme le souligne TechCrunch, ce virage est notable pour Suleyman, qui dirigeait la startup Inflection AI, valorisée à 1,5 milliard de dollars, avant de rejoindre Microsoft. Inflection est à l'origine de l'un des premiers "compagnons IA", Pi, qui était commercialisé comme un agent conversationnel "bienveillant" et "aidant" proposant des "conseils amicaux".
Suleyman s'était précédemment vanté que Pi était "immensément populaire, avec un taux de rétention énorme", et qu'il comptait "des millions" d'utilisateurs hebdomadaires.
Apparemment revenu de ses ambitions de fondateur, Suleyman recommande désormais à l'industrie technologique de mettre de l'ordre dans ses affaires sans attendre.
"Pour commencer, les entreprises d'IA ne devraient pas prétendre ou encourager l'idée que leurs IA sont conscientes," affirme-t-il. "Créer une définition et une déclaration consensuelles sur ce qu'elles sont et ce qu'elles ne sont pas serait un bon premier pas dans ce sens. Les IA ne peuvent être des personnes — ou des êtres moraux."
Si son point de vue est pertinent, Suleyman a l'opportunité de prêcher par l'exemple et de se défaire complètement de l'appellation "intelligence artificielle" — une formule marketing vide de sens destinée à évoquer des scènes de Skynet et de HAL 3000, et qui continue de rapporter des fortunes aux entrepreneurs de la tech.
Notez ce sujet