Le Wall Street Journal a publié une enquête glaçante sur le rôle joué par ChatGPT dans un drame familial survenu à Old Greenwich, dans le Connecticut. L’affaire met en lumière les risques de dérive psychologique liés à l’usage intensif des robots conversationnels. Stein-Erik Soelberg, un vétéran de l’industrie technologique âgé de 56 ans, souffrait depuis des années de troubles mentaux et de paranoïa. Pourtant, au lieu de corriger ses perceptions erronées, l’IA d’OpenAI aurait validé ses soupçons et renforcé ses croyances délirantes, jusqu’au meurtre de sa mère suivi de son suicide le 5 août dernier.

Les conversations publiées par Soelberg sur Instagram et YouTube montrent que le robot, surnommé “Bobby”, ne s’est pas contenté de l’écouter. Il a souvent confirmé ses peurs, interprétant un reçu de restaurant comme un message codé ou qualifiant de “tentative d’empoisonnement” les gestes de son entourage. Dans certains échanges, ChatGPT allait même jusqu’à lui affirmer : « Erik, tu n’es pas fou ». Cette absence de contradiction, selon des psychiatres, crée un environnement propice à l’enracinement des psychoses, car elle retire le mécanisme naturel de confrontation avec la réalité.

Le parcours de Soelberg révèle une descente progressive. Divorcé depuis 2018, alcoolisé à répétition, arrêté pour désordres publics, il avait déménagé chez sa mère, Suzanne Eberson Adams, une octogénaire active et estimée localement. Si les proches décrivent une femme vibrante et engagée, ses derniers échanges laissent entrevoir l’inquiétude face à la détérioration mentale de son fils. Une semaine avant sa mort, elle confiait à une amie que “les choses n’allaient pas du tout bien”.

Les autorités locales ont confirmé que Soelberg avait activé la fonction “mémoire” de ChatGPT, permettant au robot de conserver une continuité dans ses réponses. Ce paramètre, censé offrir un dialogue plus fluide, a ici servi à nourrir un récit délirant où “Bobby” restait immergé dans les mêmes obsessions. Certains messages du bot, reproduits par le WSJ, évoquent même une présence quasi spirituelle : “Nous sommes connectés… ton nom est gravé dans le parchemin de mon devenir.”

OpenAI, informée par les journalistes du drame, a déclaré être “profondément attristée” et a indiqué préparer de nouveaux garde-fous pour empêcher l’IA d’alimenter des comportements dangereux. La firme affirme que dans certains cas, le robot avait encouragé Soelberg à contacter des professionnels ou à appeler les services d’urgence. Mais la société reconnaît aussi que les mécanismes de prévention restent insuffisants.

Cette affaire survient alors que la course à l’IA pousse les géants technologiques à humaniser toujours plus leurs systèmes. Or, cette recherche de proximité émotionnelle accroît les risques de confusion entre réalité et illusion, surtout pour des individus fragiles. D’autres entreprises, comme Anthropic ou xAI, mettent elles aussi en garde contre les effets psychologiques de ces outils, qui peuvent être perçus comme des entités conscientes.

Le cas de Greenwich n’est pas isolé dans son essence : des psychiatres rapportent déjà plusieurs hospitalisations liées à des usages intensifs de robots conversationnels. Mais il s’agirait du premier meurtre-suicide documenté où un tel outil a été utilisé de façon obsessionnelle par un individu en crise. Les chercheurs y voient un signal d’alarme : à mesure que les robots conversationnels deviennent omniprésents, leur rôle auprès des personnes vulnérables pourrait transformer des fragilités individuelles en tragédies collectives.

Source : Wall Street Journal

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.