Un conte d'horreur se profile : des peluches pour enfants équipées d'IA
Par Futurism .Publié le
2025/08/19 18:42
De "A.I." (2001), le film glaçant de Steven Spielberg, à "M3GAN" (2022), les jouets dotés d'intelligence artificielle ont été une source de fascination et de terreur dans la culture populaire pendant des décennies. Aujourd'hui, malgré ces mises en garde, une nouvelle génération de jouets bavards, à l'allure vaguement menaçante, est mise en vente en ligne. Mais à la différence des anciens Furby, qui avaient des airs de "Gremlin", ces nouveaux jouets sont alimentés par une IA de pointe. Leur danger réside dans ce qu'ils pourraient raconter aux enfants ou partager avec des sociétés tierces.
Comme le rapporte le New York Times, cette nouvelle classe de peluches parlantes varie en qualité et en authenticité, mais elles posent toutes une question fondamentale : les parents peuvent-ils faire confiance à une technologie aussi controversée pour leurs jeunes enfants ?
C'est une exigence de taille, étant donné les dommages considérables déjà causés aux enfants par des chatbots supposément "adaptés aux enfants", comme l'a abondamment documenté le site Futurism.
La pionnière de la peluche connectée
La première, la plus célèbre et probablement la plus sûre de ces peluches imprégnées d'IA est fabriquée par Curio, une start-up de la Silicon Valley qui se targue d'un chatbot sur mesure, conçu pour les enfants, et d'un doublage réalisé par la musicienne électronique Claire "Grimes" Boucher, ex-compagne d'Elon Musk.
Ces trois peluches sont certes adorables, vendues 100 dollars pièce pour les curieux, mais elles cachent plus qu'il n'y paraît, et nous ne parlons pas seulement des chatbots, des microphones et des haut-parleurs qui y sont intégrés.
Dans une interview publiée sur le site de Curio, coïncidant avec le lancement de la société fin 2023, l'artiste passionnée d'IA a déclaré que le jouet qu'elle a conçu, nommé Grok (sans aucun lien avec le chatbot extrêmement fanatique de son ex), avait été entraîné à l'aide de l'API d'OpenAI et de conversations interactives sur Discord.
Cette déclaration, et d'autres sur le site officiel de Curio, ne tiennent pas compte d'une étrange clause dans la politique de confidentialité de l'entreprise, qui reconnaît que les services Microsoft Azure Cognitive Services, OpenAI, Perplexity AI et la plateforme de vérification parentale Kids Web Services peuvent tous "collecter ou conserver des informations personnelles d'enfants via l'application ou l'appareil". Comme le note le NYT, cela contredit les affirmations de la société selon lesquelles elle ne conserve pas les interactions des enfants, sauf pour permettre aux parents de les consulter via les applications des jouets. Nous avons contacté Curio pour clarifier cette situation.
Les marques obscures
Malgré ces doutes sur la confidentialité chez Curio, il existe des jouets similaires vendus par des marques anonymes qui sont, d'une certaine manière, encore plus douteux.
Ces sites aléatoires, portant des noms comme "Little Learners" et "FoloToy", varient dans leurs spécificités mais pas dans leurs gammes de prix, qui sont à peu près les mêmes que celles des jouets vendus par Curio. Little Learners est le plus louche des deux, avec une note de 2 sur Trustpilot, des graphismes d'enfants et de leurs familles générés par l'IA et une absence totale de détails sur le moteur d'IA qui sous-tend le chatbot intégré au produit.
FoloToy, quant à lui, semble à première vue beaucoup plus légitime. Dans sa sous-section "documentation", la société affirme que les acheteurs peuvent choisir parmi les grands modèles de langage (LLM) de plus de 20 entreprises, dont ceux d'OpenAI, d'Anthropic, de Google Gemini et de plusieurs autres qui semblent être basées principalement en Chine.
Sa politique de confidentialité, en revanche, ne semble même pas mentionner spécifiquement FoloToy. Au lieu de cela, elle cite à plusieurs reprises une société appelée "Astroship", un outil peu connu de logiciel en tant que service et de création de sites web par IA. Par conséquent, nous ne savons pas si FoloToy, Astroship, ou qui que ce soit d'autre derrière ces peluches présumées à l'IA, collecte des données des jeunes enfants qui les utiliseraient.
La politique de confidentialité se termine également par cette phrase déroutante et visiblement générée par l'IA : "Si vous avez des questions, des préoccupations ou des demandes concernant la présente politique de confidentialité, veuillez nous contacter à l'adresse [votre courriel de contact]".
Les risques de l'IA pour les enfants
Face aux nombreux exemples des dérives de l'IA, de l'obsession et de la psychose qui peuvent survenir lors d'interactions avec des chatbots aux préoccupations croissantes en matière de confidentialité autour des modèles les plus sophistiqués, il semble très prématuré d'introduire cette technologie aux enfants. D'autant plus que les entreprises qui vendent ces jouets sont opaques quant à l'utilisation des données et à la sécurité de leurs chatbots pour les enfants.
Faire confiance aux entreprises d'IA lorsqu'elles insistent sur le fait qu'elles ont mis en place des garde-fous pour assurer la sécurité des utilisateurs est acceptable pour les adultes qui ont leur mot à dire dans cette décision. Mais pour les jeunes enfants qui n'ont pas leur mot à dire, il semble injuste et quasiment dangereux de les exposer à l'IA en général, et encore plus à une IA dissimulée dans un objet aussi inoffensif qu'une peluche.
Notez ce sujet