Anthropic recrute un économiste dont l’étude relance le débat sur un risque de 33 % d’extinction de l’humanité
Par Frank Landymore .Publié le
2026/07/02 06:25
Le recrutement de l’économiste Chad Jones par Anthropic a ravivé le débat sur la mesure dans laquelle les risques existentiels liés à l’intelligence artificielle peuvent être justifiés au regard des bénéfices économiques potentiels qu’elle pourrait apporter.
Parmi les grandes entreprises spécialisées dans le développement de l’IA, Anthropic s’est distinguée par ses mises en garde répétées contre les dangers potentiels de cette technologie et par son plaidoyer en faveur de normes de sécurité particulièrement strictes. Toutefois, l’arrivée de Chad Jones, professeur d’économie à l’Université Stanford, a attiré l’attention en raison d’un article académique publié il y a plusieurs années, qui suscite aujourd’hui une nouvelle vague de controverses.
Comme l’a récemment souligné le Financial Times, Jones a élaboré un modèle économique visant à déterminer quel pourrait être le niveau « optimal » de risque existentiel associé à l’intelligence artificielle, au regard des immenses gains de bien-être qu’elle pourrait générer. Bien que cette étude repose sur des hypothèses mathématiques spécifiques et ne constitue ni une proposition politique ni une recommandation pratique, ses conclusions ont alimenté un vif débat éthique.
Dans son article, Jones écrivait :
« Rappelons que nous serions confrontés à une probabilité annuelle de 1 % de risque existentiel pendant quarante ans ; la probabilité de survivre à cette explosion de l’IA serait donc d’environ 67 %. »
Il ajoutait :
« Avec une fonction d’utilité logarithmique, le résultat optimal consiste à accepter une probabilité d’environ une sur trois d’extinction de l’humanité, en échange d’une probabilité de deux tiers de multiplier le niveau de vie par un facteur de 55. »
Autrement dit, le modèle suggère qu’un risque annuel de 1 % pendant quatre décennies conduirait à une probabilité cumulée d’environ 33 % d’extinction. Selon les hypothèses mathématiques retenues dans l’étude, un tel niveau de risque apparaîtrait comme « optimal » d’un point de vue économique, en raison de l’extraordinaire amélioration du bien-être que l’IA pourrait engendrer. C’est précisément cette conclusion qui a suscité une vive controverse, de nombreux critiques jugeant inacceptable d’appliquer ce type de raisonnement lorsque la survie de l’humanité est en jeu.
Les réactions n’ont pas tardé. L’un des commentaires les plus plébiscités sur Reddit résumait le sentiment de nombreux internautes :
« Ce n’est pas une partie de poker où les mathématiques dictent les décisions dans l’espoir que, sur le long terme, tout finira par bien se passer. L’extinction de l’humanité exige infiniment plus de prudence. »
Cette polémique s’inscrit également dans l’image publique qu’Anthropic s’est forgée ces dernières années. L’entreprise insiste régulièrement sur la nécessité de développer l’intelligence artificielle dans un cadre de sécurité rigoureux et de sensibiliser aux conséquences potentielles de cette technologie. Ses détracteurs estiment toutefois que ce discours contribue aussi à renforcer l’idée que l’IA possède des capacités extraordinaires et un potentiel d’impact sans précédent.
Par ailleurs, l’entreprise a également fait l’objet de critiques pour avoir autorisé certaines versions de son modèle Claude à être utilisées dans des projets du Département de la Défense des États-Unis liés à l’analyse du renseignement et au soutien d’opérations militaires. Une décision que certains observateurs jugent difficilement compatible avec l’accent mis publiquement par Anthropic sur la sécurité de l’intelligence artificielle.
Au-delà de la controverse entourant l’étude de Chad Jones, cet épisode soulève une question fondamentale : jusqu’à quel point peut-on accepter un risque existentiel, aussi faible soit-il, au nom du progrès technologique ? Et surtout, qui devrait être habilité à décider quel niveau de risque est acceptable lorsque l’avenir de l’humanité tout entière est en jeu ?
Notez ce sujet