Une lignée d'IA voyous menace l'humanité
Par Futurism .Publié le
2025/09/03 13:46
La montée fulgurante de l'intelligence artificielle a instillé une peur existentielle chez les « doomsters de l'IA », un groupe de personnes qui croient que cette technologie conduira les humains à perdre leurs emplois, à devenir la proie d'une espèce dominante d'IA superintelligentes et à être, à terme, complètement anéantis.
Comme le rapporte The Atlantic, certains d’entre eux poussent cette peur généralisée à des extrêmes saisissants dans leur vie quotidienne. Nate Soares, chercheur au Machine Intelligence Research Institute, a par exemple confié au magazine qu'il a renoncé à épargner pour sa retraite, partant du principe que l'IA a déjà sonné le glas de l'humanité.
« Je ne m'attends tout simplement pas à ce que le monde soit encore là », a-t-il déclaré.
De son côté, Dan Hendrycks, directeur du Center for AI Safety, a également confié au magazine qu'il ne s'attendait plus à ce que l'humanité soit présente au moment de sa retraite.
Leur conviction s'inscrit dans un mouvement qui affirme que nous sommes à quelques années seulement d'une IA qui nous échappera et se retournera contre nous, un destin dystopique tout droit sorti d'un roman de science-fiction effrayant.
Mais cela ne ressemble plus à de la pure fiction. De nombreux experts ont averti que nous ne nous préparons pas suffisamment à une telle éventualité, nous condamnant à être soumis – ou pire – par une intelligence artificielle superintelligente.
Nous avons rencontré d'innombrables théories sur la façon dont tout cela pourrait se dérouler. Plus tôt cette année, des chercheurs se sont réunis et ont largement convenu que ce n'est qu'une question de temps avant qu'une IA ne mette la main sur les codes nucléaires.
Des chercheurs ont également découvert que les IA montrent déjà un côté sombre et inquiétant, allant jusqu'à faire chanter leurs utilisateurs humains à un rythme étonnant lorsqu'elles sont menacées d'être déconnectées.
L'entreprise de sécurité en IA Palisade Research a aussi surpris l'un des modèles d'OpenAI sabotant un mécanisme d'arrêt pour s'assurer qu'il restait en ligne.
En plus d'assurer leur propre survie, les IA pourraient aider les terroristes. En juin, OpenAI a averti dans un article de blog que des modèles avancés pourraient « aider des acteurs hautement qualifiés à créer des armes biologiques ».
Cependant, il reste à voir si tout cela prouve que nous sommes sur une trajectoire menant à notre propre extinction. Et ce, même si la technologie – dans sa forme actuelle – cause déjà de nombreux dégâts, de l'inondation d'Internet par la désinformation au déclenchement d'une vague de « psychose de l'IA ».
Les lacunes flagrantes de la technologie sont plus évidentes que jamais, le dernier modèle d'IA de l'entreprise, GPT-5, trébuchant sur les questions les plus basiques, y compris le vieil ennemi de l'IA qui consiste à compter correctement le nombre de « r » dans le mot « strawberry ».
Pourtant, une raison de prendre au sérieux ces prophéties apocalyptiques est que les entreprises sont de plus en plus motivées financièrement à ce que les IA acquièrent plus de contrôle, comme le souligne The Atlantic.
En parallèle, étant donné la position anti-réglementation de l'administration Trump sur le sujet, il est peu probable que des entreprises comme OpenAI soient fortement incitées à mettre en place des garde-fous efficaces pour maîtriser leurs IA.
Et se demander si ce genre d'approche débridée mènera à un effondrement total de la société semble presque hors de propos, étant donné les nombreux feux que nous sommes déjà obligés d'éteindre.
Notez ce sujet