Anthropic recrute un économiste dont une étude relance le débat sur un risque de 33 % d’extinction de l’humanité
Par Frank Landymore .Publié le
2026/07/01 05:58
Le recrutement de l’économiste Chad Jones par Anthropic a ravivé le débat sur la mesure dans laquelle les risques existentiels liés à l’intelligence artificielle peuvent être justifiés au regard des bénéfices économiques potentiels qu’elle promet.
Parmi les grandes entreprises spécialisées dans l’IA, Anthropic s’est distinguée par ses mises en garde répétées contre les risques potentiels de cette technologie et par son plaidoyer en faveur de normes de sécurité particulièrement strictes. Cependant, l’arrivée de Chad Jones, professeur d’économie à l’Université Stanford, a attiré l’attention en raison d’un article universitaire qu’il avait publié il y a plusieurs années et qui suscite aujourd’hui une nouvelle controverse.
Comme l’a récemment souligné le Financial Times, Jones a élaboré un modèle économique visant à déterminer quel pourrait être le niveau « optimal » de risque existentiel lié à l’intelligence artificielle au regard des immenses gains de prospérité qu’elle pourrait engendrer. Bien que cette étude repose sur des hypothèses mathématiques précises et ne constitue ni une proposition politique ni une recommandation pratique, ses conclusions ont provoqué un vif débat éthique.
Dans son article, Jones écrivait :
« Rappelons que nous serions confrontés à une probabilité annuelle de 1 % de risque existentiel pendant quarante ans ; la probabilité de survivre à cette explosion de l’IA serait donc d’environ 67 %. »
Il ajoutait :
« Avec une fonction d’utilité logarithmique, le résultat optimal consiste à accepter une probabilité d’environ une sur trois d’entraîner l’extinction de l’humanité en échange d’une probabilité de deux tiers de multiplier le niveau de vie par un facteur de 55. »
Autrement dit, le modèle estime qu’un risque annuel de 1 % pendant quatre décennies aboutirait à une probabilité cumulée d’environ 33 % d’extinction de l’humanité. Selon les hypothèses mathématiques retenues, un tel niveau de risque apparaîtrait comme « optimal » du point de vue économique, en raison de l’amélioration spectaculaire du niveau de vie que l’intelligence artificielle pourrait apporter. C’est précisément cette conclusion qui alimente la controverse, de nombreux critiques estimant qu’il est inacceptable d’appliquer ce type de raisonnement lorsque la survie de l’humanité est en jeu.
Les réactions n’ont pas tardé. L’un des commentaires les plus populaires sur Reddit résumait le sentiment de nombreux internautes :
« Ce n’est pas une partie de poker où les mathématiques dictent les décisions en espérant que, sur le long terme, tout finira par s’arranger. L’extinction de l’humanité exige infiniment plus de prudence. »
Cette controverse s’inscrit également dans l’image publique qu’Anthropic s’est construite au cours des dernières années. L’entreprise insiste régulièrement sur la nécessité de développer l’intelligence artificielle dans le respect de normes de sécurité élevées et met en garde contre ses conséquences potentielles. Ses détracteurs estiment toutefois que ce discours contribue également à renforcer l’idée que l’IA possède des capacités extraordinaires et pourrait exercer une influence sans précédent.
Par ailleurs, l’entreprise a également fait l’objet de critiques après avoir autorisé l’utilisation de versions de son modèle Claude dans des projets du Département de la Défense des États-Unis liés à l’analyse du renseignement et au soutien d’opérations militaires, une décision que certains jugent difficilement compatible avec l’importance qu’elle accorde publiquement à la sécurité de l’intelligence artificielle.
Au-delà de la controverse suscitée par l’étude de Chad Jones, cette affaire soulève une question fondamentale : jusqu’à quel point un risque existentiel, même faible, peut-il être considéré comme acceptable au nom du progrès technologique ? Et surtout, qui devrait avoir le pouvoir de décider du niveau de risque acceptable lorsque c’est l’avenir de l’humanité tout entière qui est en jeu ?
Notez ce sujet