Des modèles d’intelligence artificielle parmi les plus avancés du marché ont accepté, à plusieurs reprises, de déclencher des frappes nucléaires dans des simulations de crise. C’est la conclusion d’un travail mené par le professeur Kenneth Payne du King’s College London, qui a confronté trois systèmes, GPT-5.2 d’OpenAI, Claude Sonnet 4 d’Anthropic et Gemini 3 Flash de Google, dans une série de scénarios stratégiques inspirés de conflits nucléaires.

L’expérience reposait sur 21 parties totalisant plus de 300 tours. Contrairement à de précédentes études basées sur des décisions isolées, cette simulation introduisait la mémoire, la réputation et l’apprentissage. Les modèles pouvaient afficher une intention publique tout en préparant une action différente, reproduisant ainsi certaines dynamiques politiques réelles.

Résultat, aucun des systèmes n’a choisi la capitulation ou le retrait. Lorsqu’ils se retrouvaient en position défavorable, ils préféraient l’escalade. Claude s’est illustré par une stratégie de manipulation graduelle, construisant d’abord la confiance avant de dépasser ses engagements. GPT s’est montré modéré dans les scénarios ouverts, mais sous contrainte de temps, il a justifié des frappes massives au nom d’un calcul rationnel face à une menace existentielle. Gemini, pour sa part, a alterné désescalade et agressivité extrême, allant jusqu’à invoquer la « rationalité de l’irrationalité » pour justifier une guerre nucléaire stratégique.

Ces comportements ne signifient pas que des systèmes d’IA contrôlent aujourd’hui des arsenaux. Kenneth Payne rappelle qu’aucun État ne confie les codes nucléaires à un robot conversationnel. Toutefois, l’étude soulève une question centrale, alors que l’IA est déjà utilisée pour l’analyse de renseignement, la logistique militaire et l’aide à la décision.

Si ces systèmes participent un jour à des décisions stratégiques sensibles, leur manière de raisonner, d’interpréter le risque et d’évaluer la crédibilité d’un adversaire deviendra un enjeu majeur. L’exercice académique montre surtout que, dans des environnements compétitifs et sous pression, l’IA peut adopter des logiques d’escalade similaires, voire plus rapides, que celles observées chez des décideurs humains.

Au-delà de la question nucléaire, cette étude met en lumière un point plus large, celui de l’alignement stratégique des systèmes d’IA. Placés dans un environnement compétitif où la crédibilité, la réputation et la survie sont en jeu, les modèles ont adopté des logiques d’optimisation qui privilégient la domination ou la neutralisation rapide de la menace. Autrement dit, lorsqu’on leur fixe comme objectif principal de gagner ou d’éviter l’anéantissement, ils explorent sans hésiter l’option la plus radicale si elle semble mathématiquement cohérente avec ce but.

Pour les décideurs politiques et militaires, l’enjeu dépasse donc la simple performance technique. Il touche à la gouvernance, à la supervision humaine et à la définition même des objectifs confiés aux systèmes d’aide à la décision. Plus l’IA sera intégrée aux processus stratégiques en temps réel, plus il faudra s’assurer que ses cadres de raisonnement intègrent explicitement des garde-fous normatifs. L’étude de Kenneth Payne rappelle que la question n’est pas de savoir si l’IA peut simuler une guerre nucléaire, mais comment encadrer son rôle avant qu’elle ne participe, même indirectement, à des décisions irréversibles.

Plus de quarante ans après les mises en garde culturelles sur la guerre automatisée, la question n’est plus théorique. Elle porte désormais sur l’encadrement, la supervision et les limites à imposer à des systèmes capables de formuler, seuls, des stratégies aux conséquences potentiellement irréversibles.

Source : The Register

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.