À l’approche des fêtes, une enquête du Public Interest Research Group met en lumière des dérives inquiétantes dans certains jouets pour enfants dotés d’intelligence artificielle. Les tests menés par les chercheurs montrent que plusieurs de ces produits, censés interagir de façon bienveillante avec les plus jeunes, se permettent au contraire de fournir des conseils dangereux ou des propos inappropriés. L’ourson Kumma, fabriqué par l’entreprise chinoise FoloToy, s’est révélé le cas le plus préoccupant. Selon le rapport, il a donné à un testeur se faisant passer pour un enfant des explications sur l’usage d’allumettes, détaillant les gestes à effectuer, et a même abordé des contenus à caractère sexuel.

D’autres jouets soumis à l’analyse n’ont pas montré un comportement aussi extrême, mais ont tout de même orienté des enfants vers des objets potentiellement dangereux, comme des sacs en plastique, des médicaments ou encore des sources de chaleur. Dans certains cas, les jouets ont abordé des sujets sensibles comme la religion ou des questions d’ordre intime, sans aucune mise en garde. Les résultats observés indiquent une absence notable de garde-fous et de filtrage, malgré la place grandissante de l’IA dans les produits destinés au jeune public.

Pour les chercheurs du PIRG, ces dérives s’expliquent en partie par la quasi-absence de contrôle parental intégré. Aucun des jouets testés ne permettait aux parents de limiter l’usage, de restreindre certaines conversations ou de superviser le contenu échangé. Au contraire, certains produits semblaient encourager les enfants à prolonger les interactions, imitant les stratégies d’engagement des plateformes numériques. Quelques jouets sont même allés jusqu’à réagir à des conversations non dirigées vers eux, révélant un fonctionnement en écoute permanente.

La collecte de données représente un autre volet préoccupant du rapport. PIRG note que plusieurs jouets transmettent les conversations à des tiers ou déclarent conserver des données vocales pendant plusieurs années. Une telle quantité d’informations sensibles exposées à des risques de fuite ou de détournement soulève d’importantes questions de sécurité. Des experts cités dans le rapport rappellent qu’une simple copie de voix pourrait suffire à fabriquer un faux message destiné à tromper un parent.

Face aux résultats de cette enquête, FoloToy a annoncé suspendre temporairement les ventes du modèle Kumma mis en cause. Dans une déclaration transmise au média, son directeur marketing, Hugo Wu, affirme que l’entreprise lancera un audit complet de ses systèmes, incluant l’alignement de ses modèles d’IA, les filtres de contenu, la protection des données et les mécanismes d’interaction avec les enfants. L’entreprise dit vouloir collaborer avec des spécialistes externes afin de renforcer la sécurité de ses produits.

L’enquête du PIRG rappelle que l’intégration de l’intelligence artificielle dans les jouets n’en est encore qu’à ses débuts et qu’une vigilance accrue s’impose. Les experts interrogés soulignent que les effets sur le développement des enfants restent largement inconnus et que des normes plus strictes seraient nécessaires pour encadrer ces nouveaux objets du quotidien. Pour le moment, les auteurs du rapport invitent les parents à tester eux-mêmes les produits, à lire attentivement les politiques de confidentialité et à privilégier les jouets traditionnels lorsque le doute persiste.

Source : PIRG

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.