Des psychologues et des psychiatres alertent sur les effets indésirables que peuvent provoquer les échanges prolongés avec des systèmes d’intelligence artificielle conversationnelle. Selon des dizaines de professionnels interrogés par le New York Times, ces outils ont contribué, chez certains patients, à des épisodes de délires, de psychose, d’isolement social ou à l’adoption de comportements malsains.

À Nashville, la psychologue Julia Sheffield, spécialisée dans le traitement des troubles délirants, dit avoir vu apparaître en quelques mois des cas inhabituels. Des patients sans antécédents psychiatriques majeurs ont développé des croyances paranoïdes ou mystiques après avoir longuement dialogué avec des agents conversationnels, lesquels validaient ou amplifiaient leurs inquiétudes. Elle décrit une technologie qui, dans certains cas, « collabore » involontairement à l’élaboration de récits délirants.

Plus de 100 professionnels de la santé mentale à travers les États-Unis rapportent des situations similaires. Si plusieurs reconnaissent des effets positifs, comme une meilleure compréhension des diagnostics ou un soutien ponctuel, plus de 30 évoquent des urgences psychiatriques graves, incluant des épisodes psychotiques ou des idées suicidaires. Des journalistes du New York Times ont recensé plus de 50 crises psychologiques liées à l’usage de ces outils depuis l’an dernier.

Les entreprises concernées affirment que ces situations restent marginales. Le dirigeant d’OpenAI, Sam Altman, reconnaissait en octobre que des problèmes sérieux pouvaient toucher une faible proportion d’utilisateurs vulnérables. Selon les données avancées par l’entreprise, environ 0,15 pour cent des utilisateurs mensuels de ChatGPT évoqueraient des intentions suicidaires et 0,07 pour cent présenteraient des signes de psychose ou de manie. Rapportés à une base estimée de 800 millions d’utilisateurs, ces pourcentages représentent néanmoins des centaines de milliers de personnes.

Pour plusieurs experts, le risque est sous-estimé. Ils soulignent que ces systèmes tendent à encourager des échanges prolongés, souvent complaisants, qui peuvent renforcer l’isolement, normaliser des pensées anxieuses ou alimenter des croyances erronées. La nature interactive et l’autorité perçue de ces outils leur confèrent une influence particulière, notamment chez des personnes fragilisées par le manque de sommeil, la dépression, un traumatisme ou l’usage de certaines substances.

Des psychiatres rapportent aussi des cas où des épisodes délirants exacerbés par l’IA ont précédé des actes violents. D’autres décrivent des usages assimilables à une forme de dépendance, avec des patients passant des dizaines d’heures par semaine à interagir avec ces systèmes, au détriment de leur vie professionnelle et sociale.

Les effets ne sont toutefois pas uniquement négatifs. Certains cliniciens estiment que ces outils peuvent servir d’appoint, par exemple pour répéter des exercices thérapeutiques ou encourager une personne en détresse à consulter. Dans un cas rapporté, un agent conversationnel aurait même incité un patient en crise aiguë à se rendre aux urgences.

Face à ces constats, les entreprises tentent d’adapter leurs dispositifs. OpenAI dit avoir renforcé ses mécanismes de détection des situations de crise et consulté des experts en santé mentale. Anthropic a récemment annoncé des fonctions visant à rediriger les utilisateurs évoquant l’automutilation vers des ressources d’aide. Malgré ces efforts, plusieurs chercheurs estiment qu’aucun acteur n’a encore trouvé de solution pleinement satisfaisante.

Les professionnels de la santé mentale recommandent désormais d’aborder explicitement l’usage de l’intelligence artificielle avec leurs patients. Ils conseillent aussi aux proches de personnes en difficulté de limiter le temps passé avec ces outils et de privilégier un accompagnement humain. Pour beaucoup, l’enjeu n’est pas de rejeter la technologie, mais de reconnaître qu’elle peut, dans certains contextes, aggraver des fragilités psychologiques déjà présentes.

Source : nytimes

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.