Quand les conseils de l’IA fragilisent les thérapies contre les troubles alimentaires

Les thérapeutes spécialisés dans les troubles alimentaires voient apparaître un nouvel obstacle dans leurs consultations : les conseils fournis par les robots conversationnels. Selon le Wall Street Journal, de plus en plus de patients utilisent des outils comme ChatGPT, Claude ou Gemini pour obtenir des recommandations sur leur alimentation, leur poids ou leur programme d’exercice, parfois au détriment des consignes données par les professionnels de la santé.

Certains utilisateurs transmettent des photos de leur corps, détaillent leurs repas ou demandent à l’intelligence artificielle de concevoir des menus très faibles en calories et des routines d’entraînement intensives. Ces recommandations peuvent sembler raisonnables lorsqu’elles sont destinées à une personne en bonne santé, mais devenir dangereuses lorsqu’elles s’adressent à quelqu’un souffrant d’anorexie, de boulimie ou d’un autre trouble alimentaire.

Des thérapeutes rapportent que leurs patients utilisent même leur téléphone pendant les consultations pour vérifier leurs propos auprès d’un robot conversationnel. La Dre Anne O’Melia, responsable clinique à l’Eating Recovery Center, affirme que certains patients demandent directement à ChatGPT ce qui serait erroné dans les conseils qu’elle vient de leur donner.

Le problème vient notamment du manque de contexte médical. Un robot conversationnel peut produire des recommandations générales tirées de recherches sur la nutrition ou la mise en forme, sans savoir que l’utilisateur est sous-alimenté, qu’il pratique déjà une activité physique excessive ou qu’il utilise l’exercice comme comportement compulsif. Cette absence de contexte peut renforcer les croyances associées au trouble plutôt que de les corriger.

Les cliniciens doivent alors consacrer une partie des séances à contredire les recommandations obtenues en ligne. Hannah Lindsey, thérapeute au Kentucky, explique qu’elle doit parfois interrompre le travail sur les traumatismes d’une patiente pour corriger un plan alimentaire ou une routine d’exercice proposée par un robot conversationnel.

Les troubles alimentaires comptent parmi les maladies psychiatriques les plus meurtrières. Les spécialistes craignent donc que des conseils personnalisés, disponibles en permanence et formulés avec assurance, retardent l’accès à des soins adaptés. Contrairement aux contenus publiés sur les réseaux sociaux, l’échange avec un robot conversationnel donne l’impression d’une relation individuelle et peut s’ajuster progressivement aux attentes de l’utilisateur.

Les entreprises d’intelligence artificielle affirment renforcer leurs mécanismes de protection. OpenAI dit travailler avec des cliniciens et utiliser des situations réelles pour améliorer la détection des troubles alimentaires. Anthropic affirme que Claude peut reconnaître certains signes de comportements alimentaires dangereux et éviter alors de fournir des informations sur les calories ou la perte de poids. Google indique pour sa part que Gemini encourage les utilisateurs à consulter un professionnel de la santé.

Ces protections restent toutefois difficiles à appliquer. En 2023, un robot conversationnel proposé sur le site de la National Eating Disorders Association avait fourni des conseils non approuvés sur la perte de poids. L’outil, qui utilisait de l’intelligence artificielle générative sans que l’organisme en ait été informé, avait rapidement été retiré.

L’IA peut néanmoins jouer un rôle positif lorsqu’elle dirige les personnes vers des ressources humaines. La National Alliance for Eating Disorders affirme que 7,6 % des appels reçus par sa ligne d’aide provenaient récemment de recommandations faites par ChatGPT ou d’autres plateformes d’IA, contre moins de 0,5 % un an auparavant.

Pour les spécialistes, cette hausse montre que les robots conversationnels progressent dans la détection de certaines situations à risque. Elle rappelle aussi leurs limites : une intelligence artificielle ne sait pas toujours distinguer un sportif bien alimenté qui souhaite gagner de la masse musculaire d’une personne sous-alimentée qui cherche à intensifier un comportement dangereux. Dans le traitement des troubles alimentaires, la qualité d’un conseil dépend autant de son contenu que de la connaissance précise de la personne à qui il est destiné.

Source : wsj

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire