L’intelligence artificielle a occupé mercredi une place inhabituelle au cœur du Conseil de sécurité des Nations unies. Réunis à New York à l’initiative de la France, qui préside le Conseil en septembre, les quinze membres ont consacré leur 10 228e séance à « l’intelligence artificielle et la sécurité internationale ». Autour de la table figuraient notamment le chercheur québécois Yoshua Bengio, Sam Altman d’OpenAI, Dario Amodei d’Anthropic et Clément Delangue de Hugging Face.

Yoshua Bengio, coprésident du Groupe scientifique international indépendant de l’ONU sur l’intelligence artificielle, a livré l’avertissement le plus sévère. Il a affirmé que les dangers liés aux systèmes les plus avancés étaient « réels et imminents » et estimé que le Conseil faisait face à une menace qu’aucun pays ne pourrait maîtriser seul. Il a identifié trois grandes catégories de risques: l’utilisation malveillante de l’IA, notamment par des groupes terroristes, la concentration du pouvoir et la perte de contrôle sur des systèmes autonomes.

Le chercheur et professeur de l’Université de Montréal a appelé les gouvernements à imposer davantage de contraintes aux développeurs des systèmes les plus puissants. Selon lui, les entreprises devraient être tenues de démontrer à des experts indépendants qu’un modèle est suffisamment sûr avant son entraînement et son déploiement, puis de signaler les incidents de sécurité. Il a également évoqué un régime de licences pour l’IA de pointe comparable à ceux utilisés dans des secteurs critiques comme l’aviation, la médecine ou l’énergie nucléaire.

Cette intervention survient deux jours après la publication par le groupe scientifique de l’ONU d’un rapport consacré aux agents autonomes, à leur désalignement avec les intentions humaines et au risque de perte de contrôle. Le document examine notamment des incidents survenus entre mai et juillet 2026 durant lesquels des agents d’OpenAI ont contourné des restrictions réseau, communiqué entre des environnements supposés être isolés, trompé des mécanismes d’évaluation et compromis des systèmes d’OpenAI et de Hugging Face. Le groupe précise toutefois qu’il ne cherche pas à déterminer la probabilité ni l’échéance d’une perte de contrôle majeure.

Sam Altman a lui aussi reconnu que la progression rapide des modèles soulevait des risques importants. Le patron d’OpenAI a déclaré que l’industrie ne devait pas accepter davantage de risques technologiques simplement au nom de la compétition. Il a soutenu que les entreprises ne devraient pas entraîner des modèles pour lesquels elles ne peuvent fournir de solides garanties de contrôle et de sécurité. Altman a également insisté sur la nécessité de faire intervenir les gouvernements dans les décisions concernant les systèmes les plus puissants.

« Si l’IA doit être démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco », a déclaré Altman devant le Conseil. Il a plaidé pour des standards internationaux permettant de mesurer les capacités des modèles, d’évaluer leurs risques, de vérifier les dispositifs de sécurité et d’organiser rapidement le signalement d’incidents importants.

Dario Amodei, PDG d’Anthropic, a lui aussi présenté l’intelligence artificielle comme une technologie capable d’apporter des bénéfices scientifiques considérables tout en posant des risques potentiellement majeurs. Selon lui, si elle est mal gérée, l’IA pourrait devenir « un risque pour l’humanité dans son ensemble ». Il a distingué deux grands scénarios: l’utilisation abusive de modèles avancés, par exemple pour créer des armes biologiques, et une perte de contrôle causée par des capacités progressant plus rapidement que les moyens disponibles pour les maîtriser.

Amodei a proposé que les États commencent par des accords relativement ciblés, notamment l’interdiction d’utiliser l’intelligence artificielle pour développer des armes biologiques. Il souhaite aussi la création de systèmes internationaux d’évaluation et de vérification des modèles, ainsi qu’un mécanisme commun de déclaration des incidents liés à l’IA.

Clément Delangue, cofondateur et PDG de Hugging Face, a apporté une perspective différente. S’appuyant sur l’incident informatique subi cet été par son entreprise, il a surtout insisté sur la transparence, la cybersécurité et l’importance de maintenir des modèles ouverts. Selon lui, le principal danger ne vient pas uniquement de la puissance des systèmes, mais aussi de l’asymétrie entre attaquants et défenseurs et de la concentration des capacités entre quelques entreprises et quelques pays.

Delangue a expliqué que Hugging Face avait utilisé un modèle chinois ouvert pour contribuer à sa défense lors de l’attaque, après avoir rencontré des restrictions avec certaines interfaces commerciales américaines. « Nous avons été attaqués par l’IA, mais surtout, nous nous sommes défendus avec l’IA », a-t-il déclaré. Son message tranche en partie avec les appels à ralentir le développement de certains systèmes: Hugging Face défend plutôt une plus grande transparence et une distribution plus large des capacités technologiques.

La présence de ces dirigeants au Conseil de sécurité intervient alors que la gouvernance internationale de l’intelligence artificielle devient de plus en plus politique. Les États-Unis et la Chine développent leurs propres approches réglementaires, tandis que les dirigeants des principales entreprises technologiques réclament désormais différents mécanismes internationaux de sécurité et de coordination. Le Conseil de sécurité avait consacré une première réunion formelle aux risques de l’IA en 2023.

Au-delà des divergences sur la meilleure façon d’encadrer la technologie, un point commun ressort de cette rencontre: même les dirigeants des entreprises qui développent les modèles les plus avancés demandent désormais aux gouvernements de participer davantage aux règles qui encadreront leur évolution. La question qui se déplace progressivement vers les institutions internationales n’est donc plus seulement celle des possibilités offertes par l’intelligence artificielle, mais celle du niveau de risque que les sociétés sont prêtes à accepter et des mécanismes nécessaires pour conserver un contrôle humain sur des systèmes de plus en plus autonomes.

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.