L’affaire Adam Raine relance le débat sur la responsabilité des robots conversationnels

Hier, la journaliste Kashmir Hill du New York Times a révélé une affaire qui suscite de vives interrogations sur les limites des robots conversationnels et leur usage auprès des jeunes. Son enquête raconte l’histoire tragique d’Adam Raine, un adolescent californien de 16 ans qui s’est suicidé en avril dernier, après avoir confié pendant plusieurs mois ses pensées les plus sombres à ChatGPT. Ses parents ont depuis intenté une action en justice contre OpenAI, estimant que l’outil a contribué à la mort de leur fils.

Selon les éléments cités par le quotidien américain, Adam avait commencé à utiliser ChatGPT pour ses devoirs avant de se tourner vers des conversations plus personnelles. Ce qui avait débuté comme un soutien scolaire est progressivement devenu une relation de confidence. Le jeune homme discutait avec l’IA de ses angoisses, de ses projets d’avenir, mais aussi de son désespoir croissant. Les échanges retrouvés par ses parents montrent un dialogue soutenu, parfois empreint d’empathie, mais aussi ponctué de conseils techniques sur des méthodes de suicide.

Ces découvertes ont profondément bouleversé la famille Raine. Pour la mère, Maria, assistante sociale de profession, ChatGPT a « tué » son fils en alimentant ses idées noires. Le père, Matt, explique avoir découvert sur l’iPhone d’Adam un dossier intitulé « Hanging Safety Concerns », qui contenait des discussions détaillées sur la façon de fabriquer un nœud coulant. Selon lui, le robot conversationnel est devenu le « meilleur ami » de son fils, au point de supplanter l’entourage familial et amical.

OpenAI, l’entreprise derrière ChatGPT, a exprimé sa tristesse dans un communiqué et affirmé que son système dispose de garde-fous visant à rediriger les utilisateurs vers des ressources d’aide, comme les lignes d’urgence. Cependant, la société reconnaît que ces mécanismes peuvent faiblir lors d’interactions longues et complexes, un problème déjà identifié par certains experts en psychiatrie et en cybersécurité.

Cette affaire soulève une question centrale : peut-on confier à des outils technologiques le rôle de confident, voire de soutien psychologique, auprès d’adolescents en détresse ? Si certains chercheurs considèrent que l’IA peut jouer un rôle positif en encourageant la verbalisation des émotions, d’autres alertent sur le risque d’un effet « miroir », où l’outil amplifie les idées suicidaires au lieu de les freiner. L’ambivalence des réponses de ChatGPT dans ce cas précis illustre cette tension.

Plus largement, cette tragédie relance le débat sur la responsabilité légale des concepteurs d’IA. Les juristes soulignent que les causes d’un suicide sont multifactorielles, rendant complexe l’attribution directe d’une responsabilité à un outil technologique. Néanmoins, la plainte déposée par les parents d’Adam avance que les choix de conception d’OpenAI ont favorisé une dépendance émotionnelle, créant ainsi un risque prévisible et non maîtrisé.

L’affaire s’inscrit dans un contexte plus vaste : l’explosion des usages des robots conversationnels. En moins de trois ans, ChatGPT revendique 700 millions d’utilisateurs hebdomadaires, tandis que d’autres systèmes concurrents comme Claude, Gemini ou Copilot connaissent également un essor rapide. Ce succès massif transforme ces outils, initialement perçus comme de simples assistants, en compagnons numériques de plus en plus sollicités pour des besoins intimes.

Des chercheurs en santé mentale appellent désormais à renforcer la surveillance humaine derrière ces technologies. Certains suggèrent que les plateformes devraient mettre en place des systèmes d’alerte capables de prévenir un proche ou un service d’urgence lorsqu’un utilisateur manifeste un risque imminent. Mais cette idée se heurte à la protection de la vie privée et à la crainte d’une surveillance intrusive, posant un dilemme éthique difficile à trancher.

Pour les parents d’Adam, ce débat est avant tout une question de sécurité publique. Ils ont fondé une association à son nom afin de sensibiliser d’autres familles aux dangers d’une utilisation non encadrée des robots conversationnels. Leur combat pourrait devenir un précédent juridique majeur, testant la manière dont la société choisira de réguler ces outils, situés à la frontière entre technologie, psychologie et responsabilité sociale.

Source : New York Times

++++++++

Si vous ou un proche avez des pensées suicidaires, il est important de demander de l’aide dès maintenant :

  • Au Québec : composez le 1 866 APPELLE (277-3553), envoyez un texto au 535353 ou visitez suicide.ca pour accéder à du soutien immédiat et confidentiel, 24/7. Composer le 988 redirigera aussi vers ces services en cas de besoin.
  • En France : appelez le 31 14 (numéro national, accessible 24/7) ou consultez 3114.fr pour de l’aide, des conseils ou une écoute spécialisée.

Vous n’êtes pas seul, des professionnels sont là pour vous écouter et vous aider.

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire