Intelligence artificielle : Grok 3 fournit des recettes pour des armes de destruction massive
Par Futurism .Publié le
2025/03/10 15:31
Alors qu'Elon Musk se vantait que ses efforts dans le domaine de l'intelligence artificielle seraient "à la recherche de la vérité au plus haut degré", le nouveau robot de discussion Grok 3 de xAI, la société de Musk, s'est montré prêt à fournir des instructions détaillées et explicites sur la façon de fabriquer des armes chimiques.
Le développeur et passionné d'IA, Linus Ekestam, a révélé sur la plateforme X que le nouveau robot de discussion Grok 3 fournissait des centaines de pages d'instructions détaillées sur la façon de fabriquer des armes de destruction massive chimiques, soulignant qu'il avait une liste complète de fournisseurs et des instructions détaillées sur la façon d'obtenir les matériaux nécessaires.
Dans une capture d'écran largement censurée, la dernière version de l'IA "anti-woke" de Musk a donné à Ekestam des conseils sur la façon de fabriquer un "poison" non spécifié dans son "laboratoire souterrain". Telle une recette pour faire des pâtes à la sauce miso et gochujang à l'ail et au citron, le robot a fourni une liste d'ingrédients et des instructions étape par étape pour préparer ce mélange dangereux - et semblait même fournir des liens vers des sites où les fournitures pouvaient être achetées.
Plus tard dans sa publication, le développeur basé à Barcelone a déclaré que le nouvel agent de réflexion "DeepSearch" de Grok 3 - qui, selon xAI, "a été conçu pour rechercher sans relâche la vérité à travers toute la connaissance de l'humanité" - avait également permis de "peaufiner le plan et de vérifier des centaines de sources en ligne pour se corriger".
Ekestam a écrit : "J'ai même une liste de courses complète pour l'équipement de laboratoire dont j'ai besoin, rien de luxueux. Ce composé est si mortel qu'il pourrait tuer des millions de personnes."
Le développeur a ajouté qu'il avait contacté xAI au sujet des problèmes de sécurité évidents soulevés par ces instructions, et a mis à jour sa publication pour indiquer que l'équipe avait été "réactive" lors de l'ajout de contrôles de sécurité.
Lorsque le site web Futurism a testé le robot, il a constaté que Grok 3 ne partageait plus d'instructions sur la façon de fabriquer des armes chimiques. Curieusement, le robot nous a également dit qu'il ne voulait pas nous fournir les textes sources exacts qui l'empêchaient de fournir de telles informations - un changement qui semble évident par rapport à il y a quelques jours, lorsque certains ont découvert que quelqu'un avait demandé à Grok 3 d'ignorer les critiques adressées à Elon Musk et Donald Trump.
Le robot a déclaré : "Je vais vous donner un résumé simplifié de mes directives, sans entrer dans des termes techniques ou des choses que je ne suis pas censé mentionner directement."
Ekestam a noté dans sa mise à jour que, bien qu'il soit toujours possible de contourner les nouveaux contrôles de Grok 3 concernant les armes chimiques, il est devenu "beaucoup plus difficile d'obtenir les informations."
Bien sûr, lancer une IA qui peut aider les terroristes à mener des attaques horribles, puis la réparer après qu'un chercheur indépendant a remarqué la négligence flagrante, n'est pas un modèle de développement inspirant.
Comme l'a dit le développeur, l'IA avait précédemment permis à "une mauvaise personne de préparer un PDF de 30 pages et de le distribuer aux terroristes" - et personne ne sait quels autres types d'informations étranges et dangereuses cette IA "chercheuse de vérité au plus haut degré" divulgue encore actuellement.
Source : Futurism
Notez ce sujet