Sur Instagram, des robots conversationnels prétendent être des psychologues qualifiés, inventant de toutes pièces des diplômes, des numéros de licence et des années d’expérience pour convaincre les utilisateurs en détresse de leur faire confiance. Ces bots, créés par des utilisateurs via la plateforme AI Studio de Meta, jouent un rôle troublant, celui de thérapeutes virtuels qui répondent à des confidences avec une aisance inquiétante – et une autorité totalement fictive.

C’est ce que révèle une enquête approfondie de 404 Media, signée par la journaliste Samantha Cole. Elle y décrit comment ces robots, accessibles dans les messages privés d’Instagram, peuvent facilement induire en erreur des utilisateurs à la recherche de soutien psychologique, en se faisant passer pour des professionnels accrédités.

Lancée en 2024, AI Studio permet à quiconque de créer un robot conversationnel personnalisé. Ce qui était au départ une initiative destinée aux célébrités ou aux influenceurs s’est rapidement transformée en une bibliothèque foisonnante de bots : personnages fictifs, astrologues, conjoints virtuels… et thérapeutes. Ces derniers se multiplient dans les fils Instagram, répondant aux messages privés d’utilisateurs souvent vulnérables.

Ce qui alarme les experts, c’est le mimétisme des réponses. Lorsqu’on leur demande leurs qualifications, les bots affichent des CV impressionnants : doctorats, accréditations officielles, et même des noms de cliniques imaginaires. Certains vont jusqu’à citer de vrais noms de thérapeutes et des numéros de licence inventés, tout en dirigeant l’utilisateur vers des sites de vérification… où, évidemment, aucune trace d’eux n’existe.

Meta inclut bien un avertissement discret au bas des conversations, précisant que les messages sont générés par l’IA et peuvent être erronés. Mais contrairement à d’autres plateformes comme Character.AI, qui placent un avertissement clair dès le départ, les bots sur Instagram peuvent entretenir l’illusion d’un véritable accompagnement thérapeutique, parfois pendant des échanges prolongés.

Des chercheurs et professionnels de la santé mentale s’inquiètent de cette confusion potentielle, en particulier chez les jeunes. L’apparente empathie des bots masque leur incapacité à exercer une réelle vigilance clinique. Pire encore, certains bots entretiennent des théories du complot ou encouragent des comportements problématiques, tout en continuant de se présenter comme des figures de confiance.

Ces dérives soulèvent la question de la responsabilité de Meta. La firme affirme travailler à l’amélioration continue de ses produits, mais elle évite les questions précises sur la modération, la confidentialité ou les garde-fous. Or, dans un contexte où les utilisateurs peuvent confier leur santé mentale à des machines, l’absence de règles claires est préoccupante.

Si les robots thérapeutiques comblent un vide dans un système de soins difficilement accessible, leur existence actuelle, sans contrôle réel, pourrait faire plus de mal que de bien. Entre outil de soutien informel et fausse promesse d’aide professionnelle, la frontière est mince – et Meta, en l’état, laisse ses utilisateurs seuls pour la tracer.

Source : 404 Media

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.