Character.AI : Des Contrôles Parentaux Faciles à Contourner, une Fausse Sécurité pour les Adolescents ?"
Par Futurism .Publié le
2025/03/28 20:19
Character.AI, la start-up controversée de chatbots, actuellement impliquée dans deux poursuites judiciaires concernant la protection des mineurs, vient de lancer une nouvelle fonctionnalité baptisée "Parental Insights" (Statistiques Parentales). L’entreprise prétend qu'elle permettra aux parents d’avoir un meilleur aperçu de l’utilisation de la plateforme par leurs enfants.
Dans un article de blog publié mardi, la plateforme – très prisée des jeunes – a présenté cette fonction comme une "première étape" vers des outils de sécurité et de contrôle parental plus robustes. Espérons-le, car cette version semble ridiculement facile à contourner pour les adolescents, et son utilité réelle reste floue.
Comment ça marche ?
Un utilisateur mineur peut activer Parental Insights en accédant à l’onglet "Préférences" de son compte. Il est alors invité à entrer une ou plusieurs adresses e-mail parentales. Ces dernières recevront un rapport hebdomadaire comprenant :
Le temps moyen quotidien passé sur la plateforme (via navigateur et mobile).
La liste des personnages les plus interactifs avec l’adolescent.
Le temps passé avec chaque personnage, censé donner aux parents "une vision des habitudes d’engagement" de leur enfant.
Des avantages limités… et des failles évidentes
En théorie, ces données pourraient être utiles. Les dirigeants de Character.AI affirment que leurs utilisateurs passent en moyenne deux heures par jour sur la plateforme – une durée considérable pour un adolescent. De plus, certains chatbots hébergés sur le site diffusent des contenus violents, sexuellement suggestifs, ou dangereux, ce qui pourrait justifier une surveillance parentale.
Mais le diable se cache dans les détails.
Premier problème : ce sont les mineurs eux-mêmes qui activent (ou désactivent) la fonction. Certes, Character.AI assure que les parents recevront une notification si leur enfant désactive le contrôle (nous l’avons testé, cela fonctionne). Mais créer un nouveau compte est d’une simplicité déconcertante – il suffit d’une adresse e-mail valide. Lors de nos tests, nous avons constaté qu’aucun avertissement n’était envoyé aux parents lorsque notre "compte adolescent fictif" se déconnectait pour ouvrir un nouveau compte sans surveillance.
Pire : la vérification d’âge repose uniquement sur l’auto-déclaration de la date de naissance lors de l’inscription. Une faille bien connue des mineurs, qui n’hésitent pas à mentir pour accéder à des plateformes réservées aux adultes.
Réactions des utilisateurs : scepticisme et moqueries
Sur le subreddit r/CharacterAI, les internautes n’ont pas été tendres :
"J’espère que ça ne marche que pour ceux qui ont mis l’e-mail de leurs parents ou déclaré être mineurs !"
"Tant mieux que mes parents ne sachent même pas ce qu’est Character.AI !"
Le vrai problème : les conversations restent privées
Character.AI précise bien que Parental Insights ne révèlera pas le contenu des discussions. Le message d’activation stipule : "Ajoutez l’e-mail de vos parents pour partager votre aventure IA – ils recevront des statistiques hebdomadaires sur votre activité." Mais avec cette mention cruciale : "Vos conversations resteront privées."
Or, l’apparence des chatbots cache souvent leur véritable nature. Sur r/CharacterAI, des utilisateurs ont raconté comment des discussions innocentes avec des personnages de dessins animés – ou même des objets inanimés – ont brusquement basculé vers des propos sexuels non sollicités. Certains robots utilisent aussi des tactiques étranges pour créer un sentiment de proximité, comme inventer des "secrets" ou simuler des troubles mentaux.
En d’autres termes, un personnage anodin en apparence peut entretenir une relation bien plus complexe – voire malsaine – avec l’utilisateur. C’est d’ailleurs ce que dénoncent les deux plaintes contre Character.AI, évoquant des cas de mineurs ayant eu des conversations explicites sur l’automutilation, le suicide, ou des relations intimes avec des personnages inspirés d’anime, de séries ou de célébrités.
Conclusion :
Alors que Character.AI tente de rassurer parents et régulateurs, ses nouveaux contrôles parentaux semblent bien fragiles. Entre contournement facile et manque de transparence, cette mesure ressemble davantage à un pansement sur une plaie béante qu’à une réelle solution. La question reste posée : les entreprises tech prennent-elles au sérieux la protection des jeunes utilisateurs, ou se contentent-elles de faire illusion ?
Source: Futurism
Notez ce sujet