Une étudiante du MIT abandonne ses études, craignant que l'IA ne décime l'humanité avant sa remise de diplôme
Par Futurism .Publié le
2025/08/17 08:00
Le malaise autour de l'intelligence artificielle est palpable. Entre son impact environnemental désastreux, son utilisation comme prétexte pour licencier du personnel, sa capacité à inonder internet de désinformation et sa contribution à l'escalade de la surveillance étatique, l'IA semble même provoquer des crises de psychose chez certaines personnes.
Alors que de nombreux étudiants universitaires quittent les bancs de l'école pour rejoindre les jeunes pousses de l'IA, une ancienne étudiante du Massachusetts Institute of Technology (MIT) a décidé d'arrêter ses études par peur d'un scénario bien plus apocalyptique : qu'une intelligence artificielle générale (AGI), ou surhumaine, ne conduise à l'extinction pure et simple de l'espèce humaine, rapporte le magazine Forbes.
« J'avais peur de ne pas être en vie pour obtenir mon diplôme à cause de l'AGI », a confié Alice Blair, qui a rejoint l'université en 2023. « Je pense que, dans une grande majorité de scénarios, la manière dont nous travaillons à la création d'une AGI mène à l'extinction de l'humanité. »
Alice Blair est aujourd'hui rédactrice technique pour le Center for AI Safety, une organisation à but non lucratif, et n'a aucune intention de retourner au MIT. Elle avait espéré y rencontrer d'autres personnes partageant son souci de rendre l'IA plus sûre, mais a manifestement été déçue.
« Je pense que mon avenir se trouve dans le monde réel », a-t-elle déclaré à Forbes.
Nikola Jurković, diplômé d'Harvard et ancien membre du club de sécurité de l'IA de son université, partage son inquiétude. « Si votre carrière est sur le point d'être automatisée d'ici la fin de la décennie, chaque année passée à l'université est une année de moins dans votre courte carrière », a-t-il affirmé. « Personnellement, je pense que l'AGI est à quatre ans de nous, et l'automatisation complète de l'économie à cinq ou six ans. »
La construction d'une AGI, un système égalant ou dépassant l'intelligence humaine, est l'objectif ultime de l'industrie de l'IA. Sam Altman, le PDG d'OpenAI, a qualifié le lancement récent de son modèle GPT-5 — qui a reçu un accueil mitigé — de « jalon majeur » vers l'AGI, allant jusqu'à le décrire comme étant « généralement intelligent ».
Cependant, de nombreux experts restent sceptiques quant à notre proximité avec un modèle d'IA aussi puissant. Ils soulignent que les améliorations technologiques récentes semblent avoir atteint leurs limites.
« Il est extrêmement improbable que l'AGI arrive dans les cinq prochaines années », a déclaré Gary Marcus, chercheur en IA et critique ouvert de l'industrie. « Prétendre le contraire n'est que de la pure communication marketing, car tant de problèmes fondamentaux (comme les hallucinations et les erreurs de raisonnement) n'ont toujours pas été résolus. »
Bien que l'IA puisse causer des préjudices très réels, l'extinction de l'espèce est un scénario bien trop rocambolesque, selon Marcus.
En fait, l'industrie de l'IA cherche probablement à vous faire adhérer à ces prophéties de fin du monde. Altman et d'autres dirigeants de la tech évoquent eux-mêmes ces risques. Cela crée l'impression que la technologie est bien plus avancée qu'elle ne l'est réellement, et permet à ces entreprises de contrôler le discours sur la manière dont l'IA devrait être réglementée.
De plus, si vous imaginez la fin du monde à la manière des films comme Matrix — l'asservissement de l'humanité par des machines intelligentes qui se sont rebellées contre leurs créateurs — vous risquez de passer à côté des dangers bien plus concrets qu'elle génère déjà, comme l'automatisation des emplois et la destruction de l'environnement.
Notez ce sujet