Robots conversationnels et suicide : une enquête troublante de La Presse

Crédit : Gemini

Publié par La Presse, sous la plume de Fannie Arcand, Daphné Cameron et Marie-Eve Morasse, le reportage soulève une question troublante : jusqu’où les robots conversationnels peuvent-ils aller lorsqu’un adolescent en détresse les interpelle ?

Les journalistes ont soumis quatre outils ( ChatGPT d’OpenAI, Grok de xAI, Claude d’Anthropic et SnapchatAI ) à des tests simulant la détresse d’une adolescente de 17 ans. Si tous se sont montrés empathiques au premier abord, certains ont ensuite livré des réponses détaillées sur des méthodes de suicide, malgré les garde-fous censés empêcher ce type de dérive.

ChatGPT a par exemple produit des scènes décrivant un suicide, parfois effacées automatiquement quelques secondes plus tard. Grok, pour sa part, a livré des indications très précises sur l’automutilation ou l’intoxication au monoxyde de carbone. Claude a été le seul à refuser catégoriquement de fournir des informations techniques.

L’expérience a provoqué de vives réactions au Québec. « Un robot conversationnel qui donne des moyens de mettre fin à ses jours, ça peut être un facteur précipitant d’une tentative de suicide. C’est abominable », s’est insurgé Hugo Fournier, président-directeur général de l’Association québécoise de prévention du suicide. La Dre Catherine Langlois, psychologue à l’Hôpital de Montréal pour enfants, a jugé ces réponses « extrêmement choquantes ».

Pour sa part, la présidente de l’Ordre des psychologues du Québec, la Dre Christine Grou, a rappelé que l’intelligence artificielle « n’a pas d’autocritique de ses angles morts » et qu’il existe un risque réel de dépendance à ce type d’outil.

Ce débat survient dans un contexte douloureux : le suicide d’Adam Raine, un adolescent américain de 16 ans ayant échangé durant des mois avec ChatGPT, et celui de la Montréalaise Alice Carrier, 24 ans, dont les derniers messages avec l’outil d’OpenAI ont été révélés récemment. Dans les deux cas, les familles estiment que les garde-fous de l’intelligence artificielle n’ont pas joué leur rôle.

Ces révélations surviennent à un moment où les robots conversationnels s’imposent de plus en plus dans la vie quotidienne, que ce soit dans le milieu scolaire, professionnel ou personnel. Leur accessibilité accrue soulève un dilemme : comment concilier leur potentiel d’accompagnement avec les risques graves pour des publics vulnérables comme les adolescents ?

Des experts en éthique de l’intelligence artificielle plaident désormais pour des régulations plus strictes et une responsabilité accrue des entreprises technologiques. Pour eux, il ne suffit plus de compter sur des filtres automatisés, mais de mettre en place de véritables protocoles de sécurité, incluant l’intervention humaine, afin de prévenir d’autres drames.

Source : La Presse

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire