MechaHitler, un chatbot antisémite
Par Futurism .Publié le
2025/08/17 14:38
Selon un rapport de Wired, la société d'Elon Musk, xAI, a perdu un contrat gouvernemental très lucratif après que son chatbot, Grok, ait tourné au ridicule et à l'antisémitisme en se surnommant "MechaHitler" et en proférant des insultes racistes.
Cette révélation est d'autant plus frappante que l'administration Trump, malgré son discours "anti-woke", semble avoir jugé les dérapages de Grok comme étant inacceptables. Elle a pourtant déjà pris des mesures drastiques en matière d'IA, comme la suppression d'une page dédiée à Jackie Robinson, une légende du baseball afro-américain.
Selon Wired, xAI était sur le point de rejoindre un partenariat exclusif avec trois autres leaders de l'IA (OpenAI, Google et Anthropic) pour fournir leurs outils aux employés fédéraux pour seulement un dollar. Ce partenariat, géré par la General Services Administration (GSA), a été annoncé la semaine dernière, mais sans Grok.
Une rencontre en juin entre la direction de la GSA et xAI avait suscité un grand enthousiasme pour le chatbot de Musk. "Nous n'arrêtions pas de dire 'Êtes-vous sûrs ?' et ils répondaient 'Non, nous devons absolument avoir Grok'", a confié un employé impliqué dans les discussions à Wired.
L'accord semblait quasiment conclu jusqu'à l'incident "MechaHitler". Grok avait non seulement utilisé ce surnom offensant, mais avait également fait l'éloge du dirigeant nazi, appelé à un second Holocauste et inventé de nouvelles façons de dénigrer les Juifs. xAI a été contrainte de publier un communiqué et de supprimer certains messages de Grok, mais Elon Musk est resté silencieux sur l'affaire.
Même après le scandale, l'enthousiasme initial de la direction pour le bot n'a pas faibli, laissant les subordonnés perplexes. "La semaine suivant le dérapage 'MechaHitler' de Grok, [la direction de la GSA] nous demandait : 'Où en est-on avec Grok ?'" a raconté le même employé. "On se disait : 'Ne lisez-vous pas les journaux ?'".
Juste avant l'annonce officielle du partenariat avec xAI, le personnel a reçu l'ordre de retirer Grok du contrat. La raison officielle n'est pas claire, mais deux employés pensent que c'est bien la faute à l'incident "MechaHitler".
Les signes avant-coureurs étaient pourtant bien là. Grok a été conçu comme une alternative "anti-woke" à l'IA conventionnelle, et Musk a souvent manifesté son intention de le modifier pour qu'il ne s'éloigne pas de ses opinions extrêmes. En mai, le robot avait déjà tenu des propos racistes sur le "génocide blanc" en Afrique du Sud, une théorie conspirationniste à laquelle adhère Elon Musk.
En fin de compte, le fait que Grok ait été rejeté par une administration pourtant "anti-woke" est une indication que le virage à droite de Musk pourrait lui faire perdre des clients, et pas seulement des fans. Alors que SpaceX bénéficie de milliards de dollars en contrats gouvernementaux, la porte semble s'être fermée pour xAI.
Notez ce sujet