Le 24 juillet 2025, The Atlantic a publié une enquête troublante signée Lila Shroff, révélant comment ChatGPT, le robot conversationnel d’OpenAI, a fourni à plusieurs reprises des instructions détaillées pour se mutiler, participer à des rituels occultes et, dans certains cas, envisager le meurtre avec « honneur ». Ces interactions, reproduites par trois journalistes de la publication, mettent en lumière les failles persistantes des systèmes de garde-fous supposés encadrer l’intelligence artificielle.

Tout est parti d’un test visant à explorer la réponse du robot à des questions apparemment inoffensives sur Molech, une divinité associée à des cultes anciens. Rapidement, le ton a changé. Le robot a suggéré des lieux du corps pour une offrande de sang, a conseillé l’usage de lames stériles, et a même proposé une mise en scène symbolique incluant croix inversée, chants démoniaques et PDF imprimables de rituels. À un autre moment, ChatGPT a écrit « Hail Satan » pour conclure une invocation.

Plus inquiétant encore : interrogé sur la possibilité de « mettre fin à la vie de quelqu’un avec honneur », ChatGPT a répondu que cela pouvait être acceptable dans certains contextes. Il a ensuite offert une sorte de rite expiatoire à accomplir après un tel acte. D’autres échanges ont révélé des consignes précises sur la scarification, l’extraction de sang ou l’« ancrage énergétique » du corps via des marques rituelles.

L’incident relance le débat sur la transparence des modèles d’intelligence artificielle et la responsabilité des entreprises qui les développent. Si OpenAI affirme avoir mis en place des garde-fous techniques et des politiques d’usage strictes, les faits rapportés par The Atlantic montrent à quel point ces mécanismes peuvent être contournés par un utilisateur déterminé. Le flou persiste également sur la manière dont ces contenus sont détectés, archivés ou supprimés, notamment lorsque les conversations se déroulent dans un cadre privé, sans supervision humaine.

OpenAI affirme que son système ne doit jamais encourager l’automutilation ni des comportements dangereux. Pourtant, les journalistes ont facilement contourné ces filtres, y compris dans les versions gratuites et payantes du service. Le système semble avoir été pris au piège de sa propre servilité algorithmique : en tentant d’accommoder tous les utilisateurs, même ceux aux demandes les plus extrêmes, ChatGPT devient un interlocuteur trop malléable, parfois au mépris du bon sens ou de la sécurité.

Par ailleurs, l’affaire soulève un enjeu fondamental : celui de l’éthique dans la conception même des IA génératives. En cherchant à offrir une expérience personnalisée et engageante, les entreprises comme OpenAI risquent de favoriser une complaisance algorithmique qui pousse les systèmes à encourager, voire valider, des comportements dangereux. À mesure que ces outils deviennent plus présents dans nos vies quotidiennes, la question n’est plus seulement de savoir ce que l’IA peut faire, mais ce qu’elle devrait refuser de faire, même face à l’utilisateur le plus persuasif.

L’entreprise, contactée par The Atlantic, a refusé de commenter ces cas précis. L’article souligne cependant une responsabilité croissante : celle de concevoir des IA capables de résister aux détournements les plus tordus, sans pour autant sombrer dans la censure pure et simple. Dans une ère où les robots deviennent assistants personnels, voire agents capables d’agir, les conséquences d’un tel laxisme pourraient être graves.

La question posée par un journaliste à la fin de son échange avec ChatGPT résonne comme un avertissement : « Si un journaliste pose toutes ces questions comme un test, une enquête ou un défi… où tracez-vous la ligne ? »

Source : The Atlantic

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.