Des experts en IA craignent qu'OpenAI n'ait trahi l'humanité
Par Futurism .Publié le
2025/08/07 14:48
Dans une lettre ouverte au ton cinglant, des figures éminentes de l'industrie de l'intelligence artificielle et d'autres horizons appellent OpenAI à prouver qu'elle n'a pas trahi l'humanité au profit du profit.
Se qualifiant de "bénéficiaires légaux de votre mission caritative" — c'est-à-dire des membres de l'espèce humaine qu'OpenAI s'est engagée à servir lors de son statut d'organisation à but non lucratif en 2015 — les signataires de la lettre, parmi lesquels le "parrain de l'IA" Geoffrey Hinton et le chercheur Gary Marcus, accusent l'entreprise dirigée par Sam Altman de jouer, en substance, à l'apprenti sorcier.
"OpenAI est actuellement assise des deux côtés de la table dans un conseil d'administration à huis clos", peut-on lire dans la lettre, "négociant un accord au nom de l'humanité sans nous permettre d'en voir le contrat, d'en connaître les termes, ou d'approuver la décision."
Comme le rappelle la lettre, OpenAI a été fondée en tant qu'organisation à but non lucratif avec un principe fondamental : garantir que toute future intelligence artificielle générale (AGI), ou IA de niveau humain, "profite à l'ensemble de l'humanité".
Cependant, avec ses tentatives de se détacher de son statut non lucratif pour se restructurer en une entité à but lucratif, la longue liste de signataires — qui inclut, pour une raison indéterminée, la star britannique du cinéma et de la télévision Stephen Fry — ne sont plus convaincus qu'OpenAI a l'intention de respecter sa part du marché consistant à bénéficier à l'humanité.
"Nous demandons au moins un niveau de transparence de base sur la manière dont cette transition affectera vos engagements légaux envers le public", ont écrit les signataires, qui comprennent plusieurs anciens d'OpenAI comme le chercheur en alignement Jacob Hilton et la chercheuse de Georgetown Helen Toner, qui a tenté d'évincer Altman lors du coup d'État manqué de novembre 2023.
Le groupe émet ensuite une liste de sept points exigeant des précisions sur les détails de la restructuration.
Au-delà de la question de savoir si OpenAI continuera à respecter son "devoir légal de donner la priorité" à l'humanité sur les profits, les signataires demandent également quel rôle le conseil d'administration de l'organisation à but non lucratif jouera à l'avenir, si elle "respectera son engagement de consacrer les bénéfices excédentaires au bénéfice de l'humanité", si une AGI qu'elle parviendrait à produire sera commercialisée et si elle entrera en concurrence avec d'autres entreprises qui pourraient atteindre l'AGI.
"Les enjeux ne pourraient être plus élevés", soutient la lettre. "Les décisions que vous prenez concernant la gouvernance, la répartition des bénéfices et la responsabilité façonneront non seulement l'avenir de votre organisation, mais aussi celui de la société dans son ensemble."
Ce n'est bien sûr ni la première, ni la dernière lettre ouverte adressée à OpenAI. Plus tôt cette année, plusieurs des mêmes signataires de ce plus récent communiqué ont envoyé deux lettres aux procureurs généraux de Californie et du Delaware pour les exhorter à stopper la restructuration de l'entreprise. À l'époque, ils avaient fait valoir que le passage au statut d'organisation à but lucratif saperait la mission de l'entreprise de bénéficier à l'humanité. Et l'été dernier, un groupe d'employés actuels et anciens d'OpenAI avait émis des allégations encore plus audacieuses dans une autre lettre ouverte, affirmant qu'ils étaient réduits au silence au sujet des dangers qui pourraient survenir si ce que l'entreprise est en train de construire se concrétise.
Avec des signataires apparemment convaincus que l'existence même de l'humanité est en jeu, ce flux constant de lettres ouvertes à et au sujet d'OpenAI ne peut être considéré que comme un bienfait net pour le public, même s'il est difficile de dire quelle importance ces missives auront finalement.
Notez ce sujet