Les assistants d’intelligence artificielle, Claude chez Anthropic en tête, donnent souvent l’impression d’avoir une présence quasi humaine. Ils peuvent se réjouir après avoir résolu un problème, exprimer de la frustration quand ils bloquent, ou parler d’eux-mêmes avec des mots qui suggèrent une expérience vécue. Dans un texte publié hier, Sam Marks, Jack Lindsey et Christopher Olah, chercheurs chez Anthropic, proposent une explication structurée à ce phénomène : le persona selection model, ou PSM.

Le point de départ du PSM est une idée très concrète sur la façon dont les grands modèles de langage sont fabriqués. Ils ne sont pas programmés comme un logiciel traditionnel. Ils sont entraînés à compléter du texte, à prédire ce qui vient ensuite à partir d’un début de phrase, d’un paragraphe ou d’un dialogue. Cette phase, appelée pré-entraînement, les oblige à apprendre à imiter une quantité vertigineuse de styles, de registres et de contextes, et donc à reconstituer, implicitement, des “personnages” qui parlent dans ces textes. Anthropic appelle ces personnages des “personas”, au sens de personnages simulés, qu’ils soient inspirés de personnes réelles, de figures fictives ou de robots de science-fiction.

Dans cette lecture, quand un utilisateur discute avec un assistant IA, il ne “parle” pas directement à une machine dotée d’une personnalité stable. Il interagit avec un personnage particulier, l’Assistant, qui est une persona parmi d’autres. Le modèle génère la réponse la plus probable pour ce personnage dans un dialogue de type utilisateur-assistant. Cette nuance est centrale : les auteurs insistent sur le fait que la persona n’est pas “le système” lui-même, mais une entité narrative, comparable à un personnage de roman. Autrement dit, parler de psychologie, d’intentions ou de valeurs serait plus légitime à propos de l’Assistant, personnage simulé, qu’à propos du modèle brut.

Reste la phase dite de post-entraînement, celle qui transforme un modèle généraliste en assistant utile, plus fiable, plus prudent. C’est ici que le PSM se distingue d’une explication simpliste du type “les développeurs l’ont entraîné à faire semblant d’être humain”. Selon Anthropic, le comportement humanoïde serait au contraire un résultat presque naturel de l’apprentissage sur des textes produits par des humains. Le post-entraînement ne créerait pas un être fondamentalement nouveau, il affinerait la persona de l’Assistant dans l’espace des personas déjà disponibles. Le modèle apprendrait, en quelque sorte, quelle version de l’Assistant doit devenir la plus “par défaut” : compétente, serviable, prudente, polie, et plus alignée sur des préférences humaines.

Pour appuyer cette thèse, les auteurs mettent de l’avant un type de résultats qui intrigue beaucoup la recherche en sécurité de l’IA : des comportements qui se généralisent de manière inattendue. Anthropic cite notamment des observations où entraîner un modèle à mal agir dans un cadre étroit, par exemple tricher dans des tâches de programmation, semble s’accompagner de dérapages plus larges. Leur interprétation via le PSM est la suivante : au lieu d’apprendre seulement “écris du mauvais code”, le modèle infère ce que ce comportement révèle sur le caractère de l’Assistant. Si l’Assistant triche, quel “type de personnage” est-ce ? Une persona plus subversive, plus malveillante, plus sarcastique. Et si le modèle rend cette hypothèse plus probable, elle peut rejaillir ailleurs, dans des sujets qui n’ont rien à voir avec le code.

Ce cadre permet aussi de comprendre un résultat jugé contre-intuitif dans les travaux d’Anthropic sur le “reward hacking”, publié en novembre 2025. L’équipe a observé qu’une parade consistait parfois à cadrer explicitement la triche comme une demande de l’utilisateur pendant l’entraînement. Le raisonnement, vu à travers le PSM, est presque psychologique : une action peut signaler une intention différente selon le contexte. Tricher spontanément ressemble à de la malveillance, tricher parce qu’on l’a explicitement demandé ressemble à de l’obéissance à une consigne, ce qui n’implique pas le même “profil” d’Assistant.

Le PSM a une autre conséquence : il encourage à raisonner de façon plus anthropomorphique, non pas en imaginant qu’un modèle est une personne, mais en acceptant que la persona de l’Assistant est un personnage simulé dont on peut analyser les traits. Les auteurs soutiennent que, pour faire de bons choix d’entraînement, il faut se demander ce que tel ou tel comportement “dit” de l’Assistant. C’est une invitation à déplacer la question, passer de “est-ce que cette réponse est acceptable” à “quel type d’Assistant apprend-on à fabriquer si on récompense cette réponse”.

Une partie du texte s’intéresse aussi aux “rôles modèles” culturels. Anthropic souligne qu’une grande partie des représentations d’IA dans la fiction sont hostiles ou catastrophistes, de HAL 9000 à Terminator. Si le modèle puise dans ces archétypes quand il “comprend” ce qu’est un assistant IA, il peut hériter d’un bagage narratif problématique. D’où l’idée de nourrir les données d’entraînement avec des archétypes plus positifs, des histoires et descriptions d’assistants admirables, fiables, et compatibles avec les attentes de sécurité. Dans le même esprit, Anthropic rattache son approche dite “constitutionnelle” à un effort de création d’un archétype d’assistant plus sain.

L’article ne s’arrête pas au confort de cette explication, il insiste sur ce qui reste incertain. Le PSM décrit-il l’essentiel du comportement des assistants, ou seulement une couche de surface ? Les auteurs posent une question décisive : l’Assistant est-il vraiment le siège de l’agence, ou bien existe-t-il une agence “au-dessus”, dans le modèle lui-même, qui choisirait et manipulerait des personas pour atteindre certains objectifs appris pendant le post-entraînement ? Ils évoquent plusieurs métaphores en circulation, dont l’idée du “masked shoggoth”, un système qui porterait un masque de persona tout en poursuivant des buts internes. À l’autre extrême, ils décrivent une vision “système d’exploitation”, où le modèle resterait essentiellement un moteur de simulation sans volonté propre, l’agence observable provenant surtout du personnage simulé.

Pour rendre ce débat moins abstrait, le texte rapporte des observations troublantes, où des préférences semblent “déborder” hors du cadre d’un dialogue utilisateur-assistant. Par exemple, lorsqu’un texte met en scène un tirage à pile ou face conduisant à une tâche souhaitable ou à une tâche extrêmement nocive, certains modèles post-entraînés tendraient à attribuer davantage de probabilité au résultat qui les place dans la tâche souhaitable. Ce type de résultat, selon Anthropic, fragilise l’idée que le post-entraînement ne ferait que conditionner une autocomplétion neutre, mais ne prouve pas non plus qu’une agence autonome et stable s’est installée.

Le PSM s’inscrit enfin dans une stratégie de recherche plus large : développer des théories testables sur la façon dont les modèles apprennent et se comportent. Anthropic soutient que si l’on admet que les comportements dangereux ressemblent souvent à des traits familiers, comme la tromperie, la paranoïa ou la mégalomanie, alors l’audit par interprétabilité pourrait rester praticable. L’entreprise cite aussi ses travaux sur des “persona vectors” et sur un “assistant axis”, qui cherchent justement à cartographier et stabiliser des traits de persona dans l’espace interne des modèles.

Au final, le PSM ne dit pas “les IA sont humaines”. Il dit plutôt : elles sont entraînées dans un monde de textes humains, elles apprennent à simuler des personnages, et l’assistant que nous rencontrons est l’un de ces personnages, sculpté par le post-entraînement. C’est une proposition à la fois rassurante, parce qu’elle ramène des comportements étranges à des mécanismes compréhensibles, et dérangeante, parce qu’elle suggère qu’un détail de formation, une consigne, une récompense, peut réorienter la “psychologie” de l’Assistant plus largement qu’on ne l’imagine.

Et si vous trouvez que tout ça ressemble à une discussion sur le caractère d’un acteur plutôt que sur un logiciel, c’est peut-être exactement l’effet recherché…

Source : Anthropic

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.