« Une menace pour l’humanité » – Un projet d’IA secret de Sam Altman à l’origine de son licenciement d'OpenAI ?
Par Marine Debelloir .Publié le
Sam Altman a-t-il été licencié d’OpenAI pour autre chose que des différends liés à son caractère ? C’est ce qu’affirme un nouveau rapport de Reuters. En cause, un projet d’IA chapeauté par le PDG d’OpenAI, qui serait trop puissant pour être sécurisé. Que sait-on pour l’instant ?
Un projet d’IA dissimulé par Sam Altman avant son départ d’OpenAI ?
La saga OpenAI qui a eu lieu cette semaine a des airs de valse. Alors qu’on apprenait il y a quelques jours le licenciement de Sam Altman, il devait être embauché par Microsoft. Mais dans un ultime retournement de situation, il a réussi à retrouver sa place à la tête d’OpenAI… Avec un nouveau conseil d’administration, qui lui sera plus fidèle.
Jusque là, peu d’informations avaient circulé sur les raisons de ce départ, aussi bref soit-il. Officiellement, le conseil d’administration d’OpenAI avait reproché au PDG de ne pas avoir communiqué toutes les informations dont il disposait, et d’avoir manqué de « franchise ». Mais on ne savait pas la nature de ces informations. Un nouveau rapport de Reuters vient cependant donner quelques indices.
Le média cite des sources anonymes présentes à OpenAI. Elles affirment que quelques jours avant le licenciement de Sam Altman, une lettre avait été envoyée au conseil d’administration par des chercheurs de l’entreprise. Cette lettre lançait l’alerte : une découverte en IA aurait été faite, et cette dernière pourrait « menacer l’humanité ».
Une IA puissante, et dangereuse ?
Le projet, baptisé « Q* » (à prononcé Q-star), est selon les sources interrogées une avancée majeure dans la recherche sur l’intelligence artificielle. L’IA développée aurait des capacités d’autonomie poussées, bien au-delà de celles de ChatGPT. Elle aurait par exemple des capacités en mathématiques qui auraient jusque là été inatteignables. Ce qui pourrait débloquer de nouveaux usages.
Sam Altman n’a jamais communiqué explicitement sur le sujet. Mais un jour avant son licenciement, voici ce qu’il affirmait lors d’une conférence :
« Avec OpenAI, c’est la quatrième fois […] que j’ai été présent lorsque nous avons réussi à repousser encore plus loin le voile de l’ignorance et à faire avancer la découverte. »
Il affirmait avoir été témoin de cette nouvelle découverte au cours des deux dernières semaines. Selon Reuters, c’est cela qui aurait conduit à son licenciement express. Pour l’instant, on n’en sait pas plus, mais il y a fort à parier que ce projet Q*, s’il vient à être confirmé, suscite nombre de commentaires.
source : cryptoast
Notez ce sujet