États-Unis et Russie affaiblissent les garde-fous sur les armes autonomes à l’ONU

Les efforts internationaux visant à encadrer l’utilisation de l’intelligence artificielle dans les armes autonomes viennent de franchir une étape importante, mais les négociations révèlent aussi de profondes divisions entre les grandes puissances militaires. Selon une enquête du Washington Post, les États-Unis et la Russie auraient obtenu le retrait de plusieurs dispositions destinées à garantir un contrôle humain sur l’utilisation de systèmes d’armes autonomes.

Les discussions se sont déroulées à Genève dans le cadre du Groupe d’experts gouvernementaux sur les systèmes d’armes autonomes létaux. L’ONU confirme que les délégations se sont réunies du 31 août au 4 septembre afin de poursuivre l’élaboration, par consensus, des éléments d’un éventuel instrument international concernant ces technologies. Pour l’instant, il ne s’agit pas encore d’un traité juridiquement contraignant.

Selon trois personnes ayant participé ou assisté aux négociations et citées par le Washington Post, les délégations américaine et russe auraient consacré les dernières heures des discussions à modifier le texte proposé. Parmi les formulations supprimées figureraient l’obligation pour les systèmes d’être « prévisibles » et « fiables », une référence aux considérations éthiques, ainsi qu’une disposition qui aurait exigé qu’un humain examine une cible sélectionnée par une intelligence artificielle avant qu’une frappe soit autorisée.

L’enjeu est considérable. Les systèmes militaires intégrant de l’intelligence artificielle peuvent déjà contribuer à analyser des renseignements, détecter des objets, identifier des cibles potentielles ou accélérer la prise de décision. La question qui divise les États porte notamment sur le niveau de contrôle humain qui doit demeurer obligatoire lorsqu’un système autonome est capable de sélectionner ou d’engager une cible.

Cette question est d’autant plus sensible que la politique officielle actuelle du département américain de la Défense exige encore un certain niveau de jugement humain. La directive 3000.09, révisée en janvier 2023, stipule que les systèmes d’armes autonomes et semi-autonomes doivent être conçus de manière à permettre aux commandants et aux opérateurs d’exercer un niveau approprié de jugement humain sur l’utilisation de la force. Elle exige également des tests portant notamment sur la fiabilité, la sécurité et les performances des systèmes.

Cette directive impose aussi que les systèmes utilisant l’intelligence artificielle respectent les principes du Pentagone en matière d’IA responsable et que leur utilisation demeure conforme au droit de la guerre et aux traités applicables.

Selon le Washington Post, cette politique américaine fait actuellement l’objet d’une révision. Le média rapporte qu’un mémorandum de sécurité nationale signé en juin demande une mise à jour de la directive. Au moment de la publication de l’article, à la fin septembre, aucune nouvelle version n’avait encore été rendue publique.

Les discussions internationales sur les armes autonomes durent depuis plusieurs années, mais la rencontre de septembre représente l’un des efforts les plus avancés pour définir un cadre commun. Le mandat officiel des négociateurs consiste précisément à élaborer les éléments d’un instrument concernant les technologies émergentes dans le domaine des systèmes d’armes autonomes, sans déterminer pour l’instant si ce futur cadre prendra la forme d’un traité ou d’un mécanisme moins contraignant.

Le fonctionnement par consensus donne toutefois à chaque grande puissance une influence considérable sur le résultat final. Des organisations comme Human Rights Watch et la coalition Stop Killer Robots soutiennent depuis longtemps qu’un traité devrait interdire certaines catégories d’armes autonomes et imposer un contrôle humain significatif sur les autres. Selon des représentants de ces organisations interrogés par le Washington Post, Washington et Moscou privilégieraient plutôt des règles laissant davantage de latitude aux forces armées.

Les États doivent de nouveau se retrouver à Genève en novembre pour déterminer si les travaux peuvent déboucher sur un mandat plus formel et, éventuellement, sur la négociation d’un instrument juridiquement contraignant.

Derrière les subtilités diplomatiques se trouve une question beaucoup plus simple : jusqu’où une machine peut-elle être autorisée à participer à une décision de vie ou de mort? Alors que l’IA prend une place croissante dans les stratégies militaires, la réponse pourrait déterminer non seulement la manière dont les prochaines guerres seront menées, mais aussi jusqu’où les États accepteront de déléguer à des systèmes automatisés des décisions jusqu’ici réservées aux humains.

Source : Washington Post