Bill Gates estime que le développement actuel de l’intelligence artificielle représente un moment sans précédent dans l’histoire technologique. Invité de l’émission Meet the Press de NBC, diffusée dimanche 27 septembre, le cofondateur de Microsoft a appelé les gouvernements à intervenir rapidement pour imposer des mécanismes obligatoires de sécurité et de surveillance aux entreprises qui développent les systèmes d’IA les plus puissants.

Son message est particulièrement clair : l’intelligence artificielle ne doit pas être considérée comme une technologie comparable aux précédentes. « L’IA n’est pas simplement une nouvelle technologie », affirme Gates. Selon lui, l’argument voulant que les sociétés aient toujours fini par s’adapter aux grandes innovations technologiques ne suffit plus.

« Il s’agit véritablement d’un événement évolutif. Nous avons créé une espèce intelligente qui, à bien des égards, est déjà plus intelligente que nous. Et au cours des prochaines années, avec une progression qui sera en quelque sorte exponentielle, elle deviendra incroyablement plus intelligente que nous. »

Gates insiste notamment sur une différence fondamentale entre l’apprentissage humain et celui des machines. Les connaissances acquises par un système d’IA peuvent être reproduites et transférées presque instantanément à d’autres systèmes, contrairement aux humains qui doivent apprendre individuellement.

Il estime donc que le développement de l’IA ne peut être laissé exclusivement entre les mains des entreprises technologiques. « Je ne saurais insister suffisamment sur le fait que la société, pas seulement les entreprises, mais aussi chaque université, groupe de réflexion, électeur et décideur politique, doit véritablement participer à la réflexion sur la manière dont nous voulons façonner cette technologie. »

Un scénario pouvant faire un milliard de victimes. Interrogé directement par Kristen Welker sur la possibilité que l’intelligence artificielle puisse éventuellement provoquer la disparition de l’humanité, Bill Gates évite de présenter un tel scénario comme une certitude. Il estime toutefois que la technologie peut devenir extrêmement dangereuse lorsqu’elle est utilisée par des personnes mal intentionnées.

« L’IA est certainement assez puissante pour provoquer des événements qui pourraient causer un milliard de morts. » Il précise qu’il demeure difficile d’imaginer un scénario conduisant à la disparition complète de l’humanité, mais ajoute : « Il n’y a jamais eu d’arme aussi puissante que la combinaison de personnes mal intentionnées utilisant les outils d’intelligence artificielle les plus avancés. »

Le chiffre d’un milliard de morts évoqué par Gates est donc présenté comme un scénario extrême de risque et non comme une prévision. Le Guardian, qui rapporte également l’entrevue, souligne que Gates utilise cet exemple pour défendre la mise en place d’une réglementation gouvernementale de l’IA.

Des capacités qui auraient franchi de nouveaux seuils. Gates se montre notamment préoccupé par l’utilisation de l’IA dans les domaines biologique et informatique. Il affirme que certains seuils dangereux auraient été franchis récemment, notamment concernant les capacités d’assistance à des attaques biologiques ou à des cyberattaques.

Selon lui, les gouvernements disposent actuellement de beaucoup moins d’expertise dans le domaine de l’intelligence artificielle que dans d’autres technologies potentiellement dangereuses. « La plupart des technologies dangereuses sont comprises par le gouvernement parce qu’il a financé la recherche ou parce qu’il en est un client important, comme pour les bombes nucléaires ou les fusées. L’IA, elle, est née dans le secteur privé. »

Cette situation compliquerait la capacité des autorités à déterminer quelles obligations devraient être imposées aux développeurs. Contre la simple autorégulation Sur la réglementation, Gates ne laisse guère de place à l’ambiguïté. « Personne ne pense que l’autorégulation suffit. » À la question de savoir si Washington doit adopter une législation, sa réponse est immédiate : « Absolument. »

Il souhaite notamment que les responsables politiques et les organismes chargés de l’application de la loi participent directement à l’élaboration des mécanismes de sécurité. « Il faut que les forces de l’ordre et les responsables politiques participent à la discussion sur ce à quoi doivent ressembler les mécanismes de protection et de surveillance. Et cela doit être obligatoire. »

Selon Gates, ces exigences représenteraient un coût supplémentaire pour les entreprises, mais ne devraient pas ralentir considérablement l’innovation. « Cela ajoutera un peu de contraintes pour l’industrie, mais cela ne ralentira pas de manière dramatique ce qu’elle fait. »

Ses appels à une intervention législative fédérale ont également été rapportés dimanche par plusieurs médias à la suite de la diffusion de Meet the Press. Plus difficile que le contrôle des armes nucléaires

Bill Gates va encore plus loin lorsqu’il compare la gouvernance internationale de l’IA aux accords conclus pendant la guerre froide pour limiter les armes nucléaires. Kristen Welker lui demande si la coopération entre Washington et Moscou sur le nucléaire pourrait servir de modèle aux relations entre les États-Unis et la Chine. « Oui, absolument », répond-il.

Mais lorsque la journaliste lui demande si la situation actuelle est plus difficile que celle des armes nucléaires, Gates répond simplement : « Oui. » Il rappelle que les armes nucléaires dépendent notamment de l’accès à des matières fissiles et d’infrastructures particulières qui peuvent être surveillées. L’intelligence artificielle repose au contraire sur des technologies numériques beaucoup plus largement accessibles et reproductibles. Gates défend malgré tout la nécessité d’une coopération internationale. « Nous sommes tous concernés. Toute l’humanité est dans le même bateau. »

Cette comparaison entre gouvernance nucléaire et intelligence artificielle constitue l’un des éléments les plus marquants de l’entrevue. Gates estime qu’après avoir joué un rôle central dans plusieurs mécanismes internationaux, notamment dans les domaines de la sécurité aérienne, de la couche d’ozone ou des armes nucléaires, les États-Unis devront de nouveau chercher des règles communes avec leurs partenaires et leurs rivaux pour encadrer l’intelligence artificielle.

Son propos ne consiste donc pas à demander l’arrêt du développement de l’IA. Gates réclame plutôt une accélération des usages bénéfiques accompagnée de mécanismes obligatoires destinés à réduire les risques les plus graves.

À ses yeux, le débat ne porte plus sur la nécessité d’encadrer les systèmes d’intelligence artificielle les plus avancés, mais sur la rapidité avec laquelle les gouvernements seront capables de mettre ces règles en place.