L'hallucination, talon d'Achille de l'IA : plus elle est intelligente, plus elle divague
Par Futurism .Publié le
2025/05/06 10:33
Les modèles d'intelligence artificielle sont depuis longtemps confrontés aux "hallucinations" – un terme élégant et commode utilisé par l'industrie pour désigner les fabrications que les grands modèles linguistiques présentent souvent comme des faits avérés.
Et à en juger par la trajectoire des derniers modèles de "raisonnement", conçus par des entreprises comme Google et AI pour "penser" à un problème avant de répondre, le problème s'aggrave – au lieu de s'améliorer.
Comme le rapporte le New York Times, plus les modèles d'IA gagnent en puissance, plus ils sont sujets aux hallucinations, et non l'inverse. Une vérité dérangeante alors que les utilisateurs continuent d'affluer vers les chatbots d'IA tels que ChatGPT d'OpenAI, les utilisant pour un éventail croissant de tâches. En laissant ces chatbots débiter des affirmations douteuses, tous ces utilisateurs risquent de s'embarrasser, voire pire.
Le plus préoccupant est que les entreprises d'IA peinent à déterminer la raison exacte pour laquelle les chatbots génèrent plus d'erreurs qu'auparavant – une difficulté qui met en lumière le fait déconcertant que même les créateurs de l'IA ne comprennent pas entièrement le fonctionnement réel de cette technologie.
Cette tendance inquiétante remet en question l'hypothèse largement répandue dans l'industrie selon laquelle les modèles d'IA deviendront plus puissants et fiables à mesure qu'ils prendront de l'ampleur.
Et les enjeux ne pourraient être plus élevés, car les entreprises continuent d'investir des dizaines de milliards de dollars dans la construction d'une infrastructure d'IA pour des modèles de "raisonnement" plus grands et plus performants.
Pour certains experts, les hallucinations pourraient être inhérentes à la technologie elle-même, rendant le problème pratiquement impossible à surmonter.
"Malgré tous nos efforts, ils hallucineront toujours", a déclaré Amr Awadallah, PDG de la startup d'IA Vectara, au NYT. "Cela ne disparaîtra jamais."
Le problème est si répandu que des entreprises entières se consacrent à aider les sociétés à surmonter ces hallucinations.
"Ne pas traiter correctement ces erreurs élimine fondamentalement la valeur des systèmes d'IA", a déclaré Pratik Verma, cofondateur d'Okahu, un cabinet de conseil qui aide les entreprises à mieux utiliser l'IA, au NYT.
Ces informations surviennent après qu'il a été constaté que les derniers modèles de raisonnement d'IA d'OpenAI, o3 et o4-mini, lancés à la fin du mois dernier, hallucinaient davantage que les versions précédentes.
Le modèle o4-mini d'OpenAI a halluciné 48 % du temps sur son propre banc d'essai de précision, montrant sa piètre capacité à dire la vérité. Son modèle o3 a obtenu un taux d'hallucination de 33 %, soit environ le double par rapport aux modèles de raisonnement précédents de l'entreprise.
Pendant ce temps, comme le souligne le New York Times, les modèles d'IA concurrents de Google et DeepSeek connaissent un sort similaire aux dernières offres d'OpenAI, ce qui indique un problème à l'échelle de l'industrie.
Les experts ont averti qu'à mesure que les modèles d'IA grossissent, les avantages de chaque nouveau modèle par rapport à son prédécesseur pourraient considérablement diminuer. Les entreprises épuisant rapidement les données d'entraînement, elles se tournent vers des données synthétiques – ou générées par l'IA – pour entraîner les modèles, ce qui pourrait avoir des conséquences désastreuses.
En bref, malgré les efforts déployés pour doubler la précision, les hallucinations n'ont jamais été aussi répandues – et à l'heure actuelle, on peut affirmer que la technologie ne va pas dans la bonne direction.
Source : Futurism
Notez ce sujet