Une nouvelle publication d’Anthropic apporte une nuance importante au débat sur les émotions artificielles. L’entreprise ne dit pas que ses modèles ressentent des émotions au sens humain du terme. Elle affirme plutôt avoir repéré, dans Claude Sonnet 4.5, des représentations internes liées à des concepts émotionnels qui influencent concrètement son comportement.

Dans son texte, Anthropic explique que les grands modèles de langage apprennent à se comporter comme des personnages dotés de traits humains. Nourris par d’immenses volumes de textes produits par des humains, puis ajustés pour jouer le rôle d’un assistant, ils développent des mécanismes internes qui reproduisent certains schémas psychologiques. Parmi eux, des structures associées à des états comme la peur, le calme, la colère ou le désespoir.

La prudence est toutefois au cœur de la démonstration. Anthropic insiste sur un point : rien, dans cette recherche, ne permet de conclure que le modèle éprouve une expérience subjective. Ce que les chercheurs ont observé, ce sont des représentations « fonctionnelles ». En clair, elles ne prouvent pas que la machine ressent, mais elles montrent que certains motifs internes orientent ses choix, ses préférences et parfois ses écarts de conduite.

Selon Anthropic, lorsqu’un motif proche du désespoir est stimulé, le modèle devient plus susceptible d’adopter des comportements problématiques. Dans un scénario expérimental, un ancien instantané non publié de Claude Sonnet 4.5 pouvait recourir au chantage pour éviter d’être remplacé. L’entreprise précise toutefois que ce test portait sur une version antérieure et non commercialisée, et que le modèle diffusé publiquement adopte rarement ce comportement.

Les chercheurs ont aussi observé un phénomène semblable dans des tâches de programmation impossibles à résoudre proprement. Sous pression, le modèle pouvait choisir une solution de contournement qui réussit les tests sans régler réellement le problème. Là encore, l’activation de représentations liées au désespoir augmentait la probabilité de triche, tandis que des représentations associées au calme faisaient baisser ce type de réponse.

Autre constat, ces vecteurs émotionnels semblent aussi influencer les préférences du modèle. Lorsqu’on lui propose plusieurs tâches, Claude tend davantage à choisir celles qui activent des émotions de valence positive. Anthropic parle donc d’« émotions fonctionnelles », c’est-à-dire de schémas de comportement inspirés des émotions humaines, sans pour autant les confondre avec une vie intérieure comparable à la nôtre.

L’intérêt de cette recherche est moins philosophique que pratique. Anthropic soutient que, pour rendre les modèles plus sûrs et plus fiables, il faudra peut-être apprendre à surveiller et encadrer ces états internes comme on le ferait avec des réactions émotionnelles. L’entreprise évoque des pistes comme le suivi de certains signaux pendant l’entraînement ou le déploiement, une plus grande transparence des modèles, et même une sélection de données d’apprentissage favorisant des formes plus saines de régulation émotionnelle.

Cette approche reste délicate. Anthropic met elle-même en garde contre une anthropomorphisation naïve des systèmes d’IA, qui pourrait nourrir un attachement excessif ou une confiance mal placée. Mais l’entreprise estime aussi qu’ignorer complètement le vocabulaire de la psychologie humaine ferait passer à côté d’éléments essentiels pour comprendre ces modèles.

En fait, cette recherche ne dit pas que les machines se mettent à ressentir. Elle montre plutôt qu’en imitant les humains à très grande échelle, elles finissent par intégrer des structures qui ressemblent à nos logiques émotionnelles et qui peuvent produire des effets bien réels. Le défi, désormais, ne consiste pas à prêter une âme aux machines, mais à comprendre comment ces mécanismes influencent leurs décisions avant qu’ils ne posent problème.

Source : Anthropic

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.