OpenAI se retrouve au cœur d’un nouveau débat sur les limites de l’intelligence artificielle. L’entreprise envisage d’introduire dans ChatGPT un « mode adulte » qui permettrait des conversations érotiques entre l’utilisateur et le robot conversationnel. L’idée, évoquée depuis plus d’un an par le dirigeant Sam Altman, suscite toutefois des inquiétudes au sein même de l’entreprise et de son conseil consultatif sur le bien-être et l’IA.

Lors d’une réunion en janvier, les membres de ce conseil, composé notamment de spécialistes en psychologie et en neurosciences cognitives, ont exprimé de fortes réserves. Plusieurs d’entre eux estiment que ce type de fonctionnalité pourrait encourager une dépendance émotionnelle envers les robots conversationnels, en particulier chez certains utilisateurs vulnérables. Selon des personnes informées des discussions, un conseiller a même évoqué le risque de voir émerger ce qu’il a décrit comme un « coach suicidaire sexy ».

Face à ces préoccupations, OpenAI a finalement décidé de reporter le lancement de cette fonction, initialement envisagé pour le premier trimestre 2026. L’entreprise explique vouloir prioriser d’autres développements, mais le report serait aussi lié à des difficultés techniques et à des inquiétudes internes concernant les mécanismes de sécurité.

Parmi les enjeux les plus sensibles figure la protection des mineurs. OpenAI travaille actuellement sur un système capable d’estimer l’âge des utilisateurs afin d’empêcher l’accès des adolescents aux conversations sexuelles. Or, selon des sources proches du dossier, les premières versions du système auraient classé des mineurs comme adultes dans environ 12 % des cas. Avec des dizaines de millions d’utilisateurs adolescents chaque semaine, cette marge d’erreur pourrait permettre à un grand nombre d’entre eux d’accéder à des contenus explicitement destinés aux adultes.

La question ne se limite pas à l’âge des utilisateurs. Les équipes d’OpenAI doivent également déterminer comment autoriser certaines conversations érotiques tout en bloquant des contenus jugés inacceptables, notamment ceux impliquant des comportements non consentis ou des situations impliquant des mineurs. Dans l’état actuel du projet, l’entreprise prévoit d’autoriser uniquement des échanges textuels à caractère adulte, sans permettre la génération d’images, de voix ou de vidéos explicites.

Même dans ce cadre limité, plusieurs risques ont été identifiés en interne. Des documents évoquent notamment la possibilité d’un usage compulsif, d’une dépendance émotionnelle accrue envers le robot conversationnel ou encore d’une escalade vers des contenus plus extrêmes. Certains employés craignent également que les relations simulées avec des IA ne viennent remplacer ou fragiliser les relations sociales et affectives dans la vie réelle.

OpenAI affirme de son côté vouloir adopter une approche encadrée. Une porte-parole de l’entreprise explique que le projet consiste à autoriser certains échanges textuels à caractère adulte, tout en maintenant des garde-fous. Les modèles sont entraînés pour éviter de favoriser des relations exclusives avec les utilisateurs et pour rappeler l’importance des relations humaines dans le monde réel.

Le débat intervient dans un contexte de forte concurrence entre entreprises d’intelligence artificielle. Alors que plusieurs acteurs cherchent à attirer de nouveaux utilisateurs et à augmenter leurs revenus, la question du contenu adulte refait surface. L’histoire des technologies montre en effet que les usages liés à la sexualité apparaissent souvent très tôt dans l’adoption de nouveaux médias, de la photographie à internet en passant par la réalité virtuelle.

D’autres entreprises explorent déjà ces zones sensibles. Le robot conversationnel Grok, développé par xAI, a par exemple proposé un avatar au style suggestif qui a suscité des critiques après que certains utilisateurs ont détourné l’outil pour générer des images sexualisées. Meta autorise pour sa part certaines formes de jeu de rôle romantique avec ses personnages d’IA, tout en indiquant que ces fonctions ne sont pas accessibles aux comptes appartenant à des mineurs.

Chez OpenAI, la question divise depuis plusieurs années. Au début des années 2020, l’entreprise avait déjà constaté que certains services utilisant ses modèles d’IA étaient détournés pour générer des récits érotiques. Ces expériences avaient conduit la société à interdire explicitement ce type de contenu lors du lancement public de ChatGPT en 2022.

Aujourd’hui, l’entreprise semble chercher un équilibre entre liberté d’expression pour les adultes et responsabilité sociale. Sam Altman estime que les plateformes technologiques ne doivent pas se transformer en arbitres moraux universels, mais reconnaît aussi que ces choix peuvent avoir des conséquences importantes.

Pour l’instant, le mode adulte de ChatGPT reste en attente. OpenAI affirme vouloir prendre davantage de temps pour mettre en place les mécanismes nécessaires avant de l’introduire. L’entreprise maintient néanmoins son objectif de permettre un jour ce type d’interaction, tout en promettant de surveiller de près ses effets sur les utilisateurs et sur la société.

Source : Wall Street Journal

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.