Anthropic, l’un des laboratoires les plus influents de l’intelligence artificielle, vient de relancer un débat que plusieurs dans la Silicon Valley préfèrent repousser : faut-il prévoir un mécanisme permettant de ralentir, voire de suspendre temporairement, le développement des systèmes d’IA les plus avancés ? Dans un texte publié par l’Anthropic Institute, l’entreprise derrière Claude soutient qu’un tel outil pourrait devenir nécessaire si les capacités des modèles progressent plus vite que les institutions, la recherche en sécurité et les mécanismes de gouvernance.

La nuance est importante. Anthropic ne demande pas l’arrêt immédiat de la course à l’IA. L’entreprise reconnaît même qu’une pause décidée par un seul acteur serait peu utile, voire contre-productive. Si un seul laboratoire ralentit, ses concurrents pourraient simplement prendre de l’avance. L’idée avancée est donc celle d’un ralentissement coordonné, international et vérifiable, réunissant plusieurs grands développeurs d’IA de pointe, dans plusieurs pays.

Pour défendre cette approche, Anthropic s’appuie sur une inquiétude précise : l’auto-amélioration récursive. Ce scénario désigne le moment où des systèmes d’IA deviendraient capables de contribuer eux-mêmes, de façon importante, à la conception de leurs successeurs. L’entreprise reconnaît que ce basculement n’est ni acquis ni imminent avec certitude. Mais elle estime que les tendances observées justifient de préparer dès maintenant des garde-fous, avant que la dynamique ne devienne trop rapide pour être encadrée.

Le laboratoire présente aussi des données internes qui montrent à quel point l’IA transforme déjà son propre travail. Selon Anthropic, Claude écrit maintenant une part majeure du code intégré à ses systèmes, pendant que les ingénieurs humains se concentrent davantage sur la direction, la supervision et la validation. L’entreprise affirme également que ses modèles progressent rapidement dans l’exécution de tâches de programmation, d’expérimentation et de recherche. Pour Anthropic, cela ne signifie pas que l’humain est déjà sorti de la boucle, mais que son rôle se déplace.

Cette proposition arrive dans un contexte de concurrence extrême. OpenAI, Google, Meta, xAI, Mistral, DeepSeek et Anthropic poursuivent tous la course aux modèles plus puissants, plus autonomes et plus utiles. Dans ce marché, ralentir peut être perçu comme une faiblesse stratégique. C’est précisément pour cette raison qu’Anthropic insiste sur la coordination. Une pause crédible devrait définir qui participe, ce qui déclenche l’arrêt, ce qui permet la reprise, et surtout comment vérifier que personne ne continue en secret.

L’entreprise compare le défi à certains régimes internationaux de contrôle des armements, tout en reconnaissant que l’IA est beaucoup plus difficile à surveiller. Des missiles ou des installations nucléaires laissent des traces physiques. Des entraînements de modèles, eux, peuvent être répartis, dissimulés ou camouflés derrière des infrastructures informatiques générales. C’est l’un des obstacles majeurs à toute forme d’accord international crédible.

La proposition devrait aussi se heurter à une forte résistance politique, particulièrement aux États-Unis. Plusieurs responsables américains craignent qu’un ralentissement profite à la Chine. Le débat devient donc autant géopolitique que technologique. La récente rencontre entre Donald Trump et Xi Jinping à Pékin a montré qu’un dialogue sur la sécurité de l’IA reste possible, mais rien n’indique encore qu’un cadre commun robuste soit en voie d’être adopté.

Les critiques d’Anthropic y verront une manœuvre intéressée. Le laboratoire, qui est lui-même engagé dans la course commerciale à l’IA, demande aux autres de réfléchir à une pause au moment même où ses propres modèles gagnent en puissance. Certains acteurs de l’industrie accusent aussi Anthropic d’exagérer les risques pour influencer la réglementation ou ralentir des concurrents. L’objection mérite d’être entendue : un appel à la prudence venant d’un champion du secteur n’est jamais neutre.

Mais il serait trop simple de balayer l’avertissement. Même si l’auto-amélioration récursive demeure incertaine, l’accélération de l’IA est déjà visible dans la programmation, la recherche, la cybersécurité, les services professionnels et l’organisation du travail. La question posée par Anthropic n’est donc pas seulement de savoir s’il faut freiner l’innovation. Elle est de savoir si les sociétés auront le temps, les institutions et les outils nécessaires pour rester aux commandes d’une technologie qui contribue de plus en plus à sa propre progression.

La proposition d’Anthropic ne règle rien à court terme. Elle ouvre plutôt un chantier diplomatique, technique et politique : comment ralentir une course mondiale sans avantager les acteurs les moins prudents ? Comment vérifier un accord dans un domaine aussi difficile à observer ? Et qui aurait l’autorité de dire qu’un système est devenu trop risqué ? Pour l’instant, ces questions restent sans réponse. Mais elles sont désormais posées par l’un des laboratoires les mieux placés pour connaître la vitesse réelle de cette course.

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.