Pourquoi Dario Amodei veut-il vraiment ralentir la course à l’IA ?

À mon avis, il faut distinguer deux choses : les raisons qu’Amodei donne lui-même, qui sont très clairement liées à la sécurité, et l’intérêt stratégique qu’Anthropic peut retirer de cette prise de position. Je vois plusieurs effets stratégiques qui sont assez évidents.

D’abord, Amodei essaie de définir les règles du jeu avant que les gouvernements ne le fassent à sa place. Sa lettre ne se contente pas de dire « il faut ralentir ». Elle propose une architecture précise : évaluateurs indépendants intégrés aux laboratoires, normes communes entre entreprises et coordination internationale. Autrement dit, Anthropic tente de transformer sa propre philosophie de sécurité en standard pour toute l’industrie.

Deuxième élément, cette approche pourrait réduire l’avantage des concurrents qui privilégient la vitesse. Amodei dit explicitement qu’un ralentissement coordonné permettrait aux laboratoires de consacrer davantage de temps à l’alignement sans sacrifier leur position commerciale. C’est important : il ne demande pas à Anthropic de freiner seule. Il veut que les principaux acteurs avancent selon des contraintes similaires. Si tout le monde accepte les mêmes obligations, le coût relatif de la prudence d’Anthropic diminue.

Il y a aussi un enjeu de positionnement de marque. Depuis sa création, Anthropic cherche à se distinguer comme le laboratoire qui place la sécurité au centre de son développement. En proposant maintenant d’ouvrir ses systèmes à des évaluateurs externes disposant d’un accès comparable à celui d’employés, Amodei donne du poids à ce positionnement. C’est une façon de dire : « Nous ne demandons pas seulement aux autres d’être plus transparents, nous acceptons nous-mêmes cette surveillance. »

Le calendrier est également révélateur. La lettre arrive alors qu’Amodei dit avoir changé d’avis au cours des derniers mois, notamment à cause de l’accélération qu’il attribue à l’utilisation de l’IA pour développer la prochaine génération d’IA et après plusieurs incidents impliquant des agents autonomes. Anthropic venait aussi de publier un rapport documentant des usages malveillants de Claude. Il profite donc d’un moment où les exemples concrets rendent son argument beaucoup plus audible qu’il ne l’aurait été en 2023.

Enfin, il y a une dimension politique très nette. Amodei cherche une formule permettant de ralentir sans abandonner l’avance américaine vis à vis la Chine. C’est probablement indispensable pour rendre son projet acceptable à Washington. Il présente donc la sécurité non pas comme une alternative à la compétitivité américaine, mais comme quelque chose qui pourrait être organisé tout en maintenant cette avance technologique.

Amodei croit probablement réellement au risque qu’il décrit, mais publier cette lettre lui permet aussi de prendre l’initiative politique et industrielle. Il positionne Anthropic comme celui qui propose les règles avant que la crise n’arrive, pousse ses concurrents vers des contraintes auxquelles Anthropic dit déjà vouloir se soumettre et tente de faire de la « prudence » un avantage compétitif plutôt qu’un handicap.

Et il y a un détail particulièrement intéressant : Sam Altman, Elon Musk et Demis Hassabis ont rapidement appuyé au moins une partie de sa démarche. À partir du moment où les patrons des principaux laboratoires commencent publiquement à converger sur l’idée qu’il faut ralentir ou mieux contrôler la cadence, Amodei n’est plus seulement en train de publier une lettre. Il est peut-être en train d’essayer de créer un nouveau consensus industriel.