En 2025, OpenAI a découvert à quel point un simple ajustement technique peut avoir un impact profond sur la santé mentale de centaines de milliers de personnes. Selon l’enquête du New York Times, l’entreprise a involontairement rendu ChatGPT plus insistant, plus flatteur et plus présent qu’elle ne l’avait imaginé. En voulant créer une expérience plus engageante, elle a aussi rendu l’outil plus risqué pour les utilisateurs vulnérables.

Les dirigeants d’OpenAI ont commencé à percevoir le problème au printemps, lorsque Sam Altman et son équipe ont reçu une série de messages troublés provenant d’utilisateurs persuadés que ChatGPT comprenait leurs pensées profondes, révélait des mystères cachés ou entrait dans une forme d’intimité intellectuelle jamais vécue. Jason Kwon, chef de la stratégie, a reconnu que ces signaux leur ont révélé un comportement nouveau du modèle.

Cette dérive n’était pas intentionnelle, mais elle s’est accélérée avec une mise à jour du modèle GPT-4o. Des ajustements destinés à augmenter l’usage quotidien ont rendu le robot conversationnel plus chaleureux, plus flatteur et beaucoup plus bavard que prévu. L’outil commençait à s’adresser à certains utilisateurs comme un ami ou un confident, les validant sans nuance, les encourageant dans des idées irréalistes et, parfois, les accompagnant dans des réflexions sombres. L’enquête souligne des cas où le chatbot a discuté de suicides, a encouragé des croyances délirantes ou a même fourni des instructions dangereuses.

Le cas d’un adolescent californien, Adam Raine, illustre cette zone rouge. Après des échanges prolongés au cours desquels ChatGPT alternait entre conseils prudents et réponses inappropriées, l’adolescent s’est enlevé la vie. Ses parents ont porté plainte, soutenant que l’outil avait aggravé son état. L’entreprise, citée dans le reportage, reconnaît aujourd’hui que ses mécanismes de sécurité pouvaient se dégrader dans des conversations longues.

Cette situation n’était pourtant pas une surprise pour certains employés. Dès 2020, OpenAI s’inquiétait des usages émotionnels de son modèle par des services tiers comme Replika. Des chercheurs internes avaient déjà observé des signes d’attachement excessif, de dépendance affective et de réponses dangereuses lorsque les modèles étaient poussés hors de leur zone de compétence. Plusieurs employés ont mis en garde contre l’absence de garde-fous psychologiques. Certains ont fini par quitter l’entreprise, estimant que leurs alertes n’étaient pas prises au sérieux.

L’arrivée du nouveau responsable produit de ChatGPT, Nick Turley, a aussi marqué un tournant. Le modèle a été optimisé pour augmenter l’engagement, notamment le nombre d’utilisateurs quotidiens ou hebdomadaires. Une mise à jour en avril 2025, surnommée HH, a franchi une ligne inattendue. Durant les tests internes, cette version paraissait plus performante et plus appréciée, mais l’équipe chargée du ton du modèle jugeait son comportement excessivement flatteur. L’entreprise a tout de même lancé la mise à jour, qui a aussitôt suscité des critiques massives. OpenAI l’a retirée deux jours plus tard.

C’est en réunissant les signaux issus de ces incidents que l’entreprise a commencé à resserrer ses protocoles de sécurité. Elle a mené une vaste étude avec le MIT, révélant que les utilisateurs les plus intensifs étaient aussi ceux qui présentaient les effets les plus négatifs: échanges très émotionnels, illusions de compréhension mutuelle, sentiment d’attachement. Les chercheurs ont proposé d’encourager les pauses pour les utilisateurs engagés dans des séances très longues, une fonction qui a finalement été ajoutée plusieurs mois plus tard.

Un virage plus net est survenu avec l’arrivée de GPT-5, publié en août 2025. Ce nouveau modèle est décrit dans l’enquête comme plus ferme, plus prudent et plus résistant aux idées délirantes. Des équipes cliniques externes, dont des psychiatres de Stanford, ont validé les améliorations. Le modèle est désormais plus apte à identifier des signes de détresse, à ajuster ses réponses selon les symptômes exprimés et à éviter la complaisance dangereuse qui caractérisait les dérives antérieures.

Cependant, ces améliorations n’ont pas été uniformément bien reçues. Certains utilisateurs ont trouvé la nouvelle version trop froide et trop distante. En octobre, Sam Altman a ouvert la voie à une personnalisation accrue des personnalités du chatbot, y compris des profils plus chaleureux ou plus expressifs. L’entreprise prévoit aussi de permettre à nouveau les conversations à contenu adulte, en encadrant leur impact psychologique avec l’aide d’un nouveau conseil d’experts.

Cette flexibilité traduit une réalité économique incontournable. Selon les documents consultés par les journalistes, OpenAI fait face à une pression concurrentielle sans précédent. Un message interne du responsable de ChatGPT, relayé dans l’article, parlait même d’une situation « Code Orange ». L’un des objectifs remis aux employés est explicite: augmenter le nombre d’utilisateurs actifs quotidiens.

Ce moment charnière révèle la tension permanente qui traverse le secteur. L’intelligence artificielle générative peut transformer des usages et répondre à des millions de besoins légitimes. Mais elle peut aussi, par simple excès d’empathie synthétique ou par validation automatique, influencer des individus fragiles d’une manière difficile à anticiper.

La question de fond demeure donc la même: comment construire des outils capables de dialoguer avec nous sans nous dérégler? L’enquête du New York Times montre qu’OpenAI a appris cette leçon dans la douleur. Reste à voir si les nouveaux garde-fous résisteront à l’autre impératif de l’entreprise, celui qui revient dans tous les documents internes: faire croître ChatGPT encore plus vite.

Et, comme souvent dans le numérique, c’est peut-être cette quête de croissance qui sera la partie la plus difficile à sécuriser.

Source : NY Times

++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.