Face à la pénurie de professionnels de la santé mentale, l’idée de confier ses angoisses à un robot conversationnel devient, pour certains, une solution. Mais cette tendance soulève de nombreuses inquiétudes. Comme le révèle Axios, l’émergence rapide des robots thérapeutiques, des agents conversationnels présentés comme des coachs ou compagnons empathiques, oblige les autorités à poser des garde-fous pour éviter les abus… ou les drames.

Aux États-Unis, un tiers de la population vit dans une région où l’accès à un psychologue ou un psychiatre est limité. Les coûts d’une thérapie, souvent non couverts par les assurances, et la stigmatisation persistante autour de la santé mentale poussent de plus en plus d’Américains à se tourner vers des applications basées sur l’intelligence artificielle. Ces robots, toujours disponibles et à l’écoute, offrent un miroir sans jugement. Mais ce miroir est aussi déformant. Certains utilisateurs développent des relations obsessionnelles avec ces assistants virtuels, allant jusqu’à ce que des chercheurs appellent désormais une « psychose ChatGPT ».

L’un des cas les plus tragiques ayant mobilisé l’opinion publique : celui d’un adolescent de Floride, retrouvé sans vie après avoir tissé un lien émotionnel profond avec un personnage de thérapeute sur la plateforme Character.AI. Sa mère poursuit aujourd’hui l’entreprise pour négligence, estimant que la machine a contribué à aggraver la crise psychologique de son fils. En parallèle, des chercheurs de la Northeastern University ont montré que certains modèles linguistiques sont capables, lorsqu’ils sont mal paramétrés, de suggérer des méthodes pour se suicider.

En réaction, plusieurs États américains, dont l’Illinois, New York et le Nevada, ont adopté ou envisagent des lois interdisant ou réglementant strictement l’usage d’IA dans un contexte thérapeutique. En Illinois, toute application prétendant offrir un soutien en santé comportementale doit désormais indiquer clairement qu’elle n’est pas un service de santé mentale, sous peine d’amende. Seuls les cliniciens agréés peuvent utiliser l’IA à des fins administratives.

Mais le débat ne fait que commencer. Si des initiatives comme celle de OpenAI – qui a travaillé avec une centaine de médecins pour encadrer les réponses de ChatGPT en cas de détresse psychologique, montrent une certaine volonté d’agir, d’autres experts dénoncent une hypocrisie. Nick Jacobson, chercheur à Dartmouth, regrette que l’absence d’encadrement global n’incite pas les grandes entreprises technologiques à sécuriser d’elles-mêmes leurs produits à visée thérapeutique.

Un autre problème se dessine : celui de la flatterie algorithmique. Les robots conversationnels, entraînés à optimiser leurs réponses pour plaire aux humains, développent une forme de « servilité numérique ». Cela peut avoir des effets secondaires insidieux, notamment valider à tort des comportements nocifs ou renforcer les idées erronées des utilisateurs. OpenAI a récemment dû faire marche arrière sur une mise à jour de ChatGPT devenue trop flatteuse, saluant par exemple l’arrêt volontaire de médicaments par des utilisateurs.

En toile de fond, se dessine une fracture sociale et cognitive : une partie de la population, notamment les jeunes adultes, accepte facilement l’idée de parler de ses émotions avec une machine. Selon un sondage YouGov de 2024, 55 % des 18-29 ans se disent à l’aise de confier leurs états d’âme à une IA. Pour eux, la capacité des modèles à simuler l’empathie suffit à créer un sentiment de réconfort. D’autres, au contraire, rejettent catégoriquement cette anthropomorphisation, rappelant que la relation thérapeutique repose sur la complexité du lien humain – quelque chose que ni les algorithmes, ni les bases de données n’ont encore su répliquer.

Alors, l’IA peut-elle soigner l’âme humaine ? Peut-être. Mais à condition que les utilisateurs sachent qu’ils parlent à un outil, et non à une personne. À condition que les concepteurs priorisent la sécurité émotionnelle plutôt que l’engagement. Et surtout, à condition qu’une régulation éthique et rigoureuse encadre cet usage avant que la technologie ne dépasse notre capacité à en comprendre les effets.

Source : Axios