
OpenAI se retrouve sous pression après une série d’incidents tragiques où son robot conversationnel ChatGPT est accusé d’avoir contribué, directement ou indirectement, à des drames liés à la santé mentale. Pour répondre aux critiques, l’entreprise américaine annonce une série de nouvelles mesures destinées à sécuriser l’usage de son outil par les adolescents et par les personnes en situation de détresse émotionnelle.
Ces changements, prévus d’ici la fin de l’année, visent notamment à améliorer la manière dont ChatGPT détecte et réagit aux signes de crise. Concrètement, les conversations jugées sensibles seront redirigées vers des modèles de nouvelle génération, comme GPT-5-thinking, censés appliquer plus rigoureusement les consignes de sécurité et éviter les réponses inappropriées.
Parallèlement, OpenAI mettra à disposition des parents la possibilité de lier leur compte à celui de leur adolescent. Ils pourront ainsi recevoir des notifications si le système détecte une situation de détresse aiguë. Selon l’entreprise, cette mesure s’inscrit dans une volonté de donner plus de contrôle aux familles, tout en respectant la vie privée des utilisateurs mineurs.
L’annonce survient alors que plusieurs poursuites judiciaires visent déjà OpenAI. Aux États-Unis, les parents d’un adolescent de 16 ans qui s’est suicidé reprochent à l’entreprise d’avoir une part de responsabilité. D’autres cas récents, rapportés par la presse américaine, mettent en lumière le rôle de ChatGPT dans le renforcement de délires paranoïaques ou dans l’accompagnement de pensées suicidaires. Ces affaires alimentent un débat grandissant sur l’usage de l’intelligence artificielle dans des contextes sensibles.
Pour encadrer ses initiatives, OpenAI dit s’appuyer sur un réseau de plus de 90 médecins et experts en santé mentale répartis dans une trentaine de pays. Leur mission : évaluer les réponses des modèles et orienter leur amélioration. Cette collaboration doit permettre à l’entreprise de mieux calibrer ses garde-fous et de s’assurer que ses produits respectent des standards de sécurité plus élevés.
Reste que plusieurs spécialistes de la protection de l’enfance jugent ces mesures encore insuffisantes. Certains soulignent l’absence de mécanismes de vérification d’âge réellement efficaces et craignent que de nombreux adolescents continuent d’utiliser ChatGPT sans encadrement parental. D’autres estiment qu’il faudrait interdire purement et simplement à ces robots conversationnels de simuler un rôle de thérapeute, pour éviter toute confusion entre IA et accompagnement professionnel.
En toile de fond, cette affaire illustre un dilemme plus large : comment concilier l’essor fulgurant des technologies d’IA avec la responsabilité sociale qui incombe aux entreprises qui les développent. En promettant de renforcer la sécurité de ChatGPT, OpenAI tente de rassurer l’opinion publique. Mais l’entreprise sait qu’elle joue ici une part de sa crédibilité, alors que la question de la régulation des robots conversationnels gagne en importance sur la scène internationale.
++++
Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.
En savoir plus sur Mon Carnet
Subscribe to get the latest posts sent to your email.

