L'Intelligence Artificielle au Banc des Accusés : Les LLM ne seront jamais vraiment « intelligents », selon un Expert
Par Frank Landymore .Publié le
2025/11/29 03:05
Les géants de la technologie sont-ils sur le point de créer des machines pensantes grâce à leurs modèles d'IA colossaux, comme l'affirment leurs dirigeants ? Un expert émet un démenti formel.
Nous, les humains, avons tendance à associer le langage à l'intelligence. Nous sommes naturellement fascinés par ceux qui excellent dans les compétences linguistiques, qu'ils soient orateurs ou écrivains.
Cependant, les recherches récentes suggèrent que le langage n'équivaut pas à l'intelligence, comme l'explique Benjamin Riley, fondateur de la société de capital-risque Cognitive Resonance, dans un essai publié par The Verge. C'est une mauvaise nouvelle pour l'industrie de l'IA, qui fonde tous ses espoirs et ses rêves de créer une Intelligence Artificielle Générale (AGI), omnisciente, sur l'architecture des grands modèles de langage (LLM) qu'elle utilise actuellement.
« Le problème est que, selon les neurosciences actuelles, la pensée humaine est largement indépendante du langage humain — et nous n'avons guère de raisons de croire qu'une modélisation toujours plus sophistiquée du langage engendrera une forme d'intelligence qui égale ou dépasse la nôtre », écrit Riley. « Nous utilisons le langage pour penser, mais cela ne fait pas du langage la pensée elle-même. Comprendre cette distinction est la clé pour séparer le fait scientifique de la science-fiction spéculative des PDG trop enthousiastes de l'IA. »
AGI, Dépenses Exorbitantes et Illusions
L'AGI, rappelons-le, serait un système d'IA omniscient égalant ou surpassant la cognition humaine dans une grande variété de tâches. Dans la pratique, on l'imagine souvent comme une solution capable de résoudre les problèmes majeurs de l'humanité, du cancer au changement climatique. En prétendant créer une telle entité, les leaders de l'IA peuvent justifier les dépenses colossales du secteur et son impact environnemental catastrophique.
L'une des raisons pour lesquelles les dépenses en capital dans l'IA sont devenues incontrôlables est l'obsession du scaling : en alimentant les modèles d'IA avec plus de données et en les dotant d'un nombre croissant de GPU, les entreprises ont rendu leurs modèles plus efficaces dans la résolution de problèmes et plus humains dans leur capacité à converser.
Mais, comme le souligne Riley, « les LLM sont simplement des outils qui émulent la fonction communicative du langage, et non le processus cognitif distinct et séparé de la pensée et du raisonnement, quel que soit le nombre de centres de données que nous construisons ».
Si le langage était essentiel à la pensée, sa suppression devrait anéantir notre capacité à réfléchir. Ce n'est pourtant pas le cas, insiste Riley, citant des décennies de recherche résumées l'année dernière dans un commentaire publié dans Nature.
Imagerie Cérébrale : L'imagerie par résonance magnétique fonctionnelle (IRMf) des cerveaux humains a montré que des zones distinctes sont activées lors de différentes activités cognitives. Nous ne mobilisons pas les mêmes neurones lorsque nous réfléchissons à un problème mathématique par rapport à un problème linguistique.
Études Cliniques : Des études sur des personnes ayant perdu leurs capacités linguistiques ont montré que leur capacité de penser restait largement intacte, puisqu'elles pouvaient toujours résoudre des problèmes mathématiques, suivre des instructions non verbales et comprendre les émotions d'autrui.
Le Plafond de Verre de la Créativité
Même certaines figures éminentes de l'IA doutent des LLM. Le plus célèbre est le lauréat du prix Turing et « parrain » de l'IA moderne, Yann LeCun, qui était jusqu'à récemment le scientifique en chef de l'IA chez Meta. LeCun soutient depuis longtemps que les LLM n'atteindront jamais l'intelligence générale, privilégiant plutôt les modèles dits « mondiaux » (world models) conçus pour comprendre l'univers tridimensionnel en étant entraînés sur des données physiques variées, et non uniquement sur le langage. Cette divergence d'opinion pourrait expliquer son récent départ, car le PDG de Meta, Mark Zuckerberg, a choisi d'injecter des milliards dans une nouvelle division IA visant à créer une « super-intelligence » artificielle en utilisant la technologie LLM.
D'autres recherches confirment l'idée d'un plafond inéluctable pour les LLM. Dans une nouvelle analyse publiée dans le Journal of Creative Behavior, un chercheur a utilisé une formule mathématique pour déterminer les limites de la « créativité » de l'IA, avec des résultats accablants. Étant donné que les LLM sont des systèmes probabilistes, ils atteignent un point où ils ne peuvent plus générer de résultats véritablement nouveaux et uniques sans verser dans l'absurde. L'étude conclut ainsi que même les meilleurs systèmes d'IA ne seront jamais plus que des artistes utiles capables d'écrire un e-mail bien formulé.
« Bien que l'IA puisse imiter le comportement créatif — de manière très convaincante parfois — sa capacité créative réelle est limitée au niveau de l'être humain moyen et ne peut jamais atteindre les normes professionnelles ou expertes selon les principes de conception actuels », a déclaré David H. Cropley, professeur d'innovation en ingénierie à l'Université d'Australie du Sud et auteur de l'étude.
« Un écrivain, un artiste ou un designer compétent peut occasionnellement produire quelque chose de vraiment original et efficace », a ajouté Cropley. « Un LLM ne le fera jamais. Il produira toujours quelque chose d'ordinaire, et si les industries dépendent trop de lui, elles se retrouveront avec un travail stéréotypé et répétitif. »
Ce n'est pas un pronostic prometteur si l'IA basée sur les LLM est censée imaginer de nouvelles innovations et repousser les limites de notre compréhension du monde. Comment pourrait-elle inventer une « nouvelle physique », comme le prétend Elon Musk, ou résoudre la crise climatique, comme l'a suggéré le PDG d'OpenAI Sam Altman, si cette technologie peine à enchaîner de nouvelles phrases qui ne sont pas basées sur des écrits préexistants ?
« Oui, un système d'IA pourrait remixer et recycler nos connaissances de manière intéressante », conclut Riley. « Mais ce sera tout ce qu'il pourra faire. Il sera éternellement prisonnier du vocabulaire que nous avons encodé dans nos données et sur lequel nous l'avons entraîné – une machine à métaphores mortes (dead-metaphor machine). »
Notez ce sujet