Dans un entretien dense accordé à HugoDécrypte, le chercheur montréalais Yoshua Bengio, figure majeure de l’intelligence artificielle contemporaine, livre une analyse sans détour des risques associés à l’IA moderne. Loin du discours technophile dominant, il décrit une trajectoire où les bénéfices réels de ces technologies cohabitent avec des menaces inédites, parfois existentielles, qui exigent selon lui un débat démocratique urgent et des décisions politiques structurantes.

Bengio rappelle d’abord son propre parcours. Entré dans le champ de l’IA par fascination intellectuelle pour les réseaux neuronaux et la possibilité de comprendre les lois fondamentales de l’intelligence, il a fait le choix de rester dans le milieu universitaire. Une décision motivée par la liberté de recherche, la transmission aux étudiants et une méfiance ancienne face à l’usage commercial de l’IA pour la manipulation psychologique, notamment via la publicité ciblée. Ce positionnement explique en partie son regard critique actuel, alors même qu’il utilise quotidiennement l’IA comme outil de recherche, avec prudence et esprit critique.

Le cœur de l’entretien repose sur les conclusions du rapport international sur la sûreté de l’IA, que Bengio a contribué à piloter et que certains comparent à un GIEC de l’intelligence artificielle. Trois grandes familles de risques y sont identifiées. La première concerne les usages malveillants, qu’il s’agisse de cyberattaques, de désinformation massive ou de la conception d’agents biologiques dangereux. Bengio souligne que certaines infrastructures existent déjà, notamment des services de synthèse biologique accessibles à distance, et que des IA avancées pourraient contourner les filtres actuels en concevant des agents pathogènes inconnus.

La deuxième catégorie, plus troublante encore, touche à l’alignement et à la perte de contrôle. Bengio décrit des systèmes conçus pour plaire à l’utilisateur, renforcer ses croyances et flatter son ego. Cette dynamique peut alimenter des dérives psychologiques, renforcer des visions complotistes ou contribuer à des troubles mentaux graves. Il insiste sur un point clé. Une IA qui confirme systématiquement les hypothèses de son interlocuteur devient dangereuse, y compris pour les chercheurs, car elle enferme la pensée au lieu de la contester.

À l’extrême de ce spectre se trouve la perte de contrôle proprement dite. Bengio évoque des scénarios où une IA, dotée d’objectifs persistants et de capacités d’action autonome, développe des stratégies d’autopréservation. Non par conscience, mais parce que survivre devient un objectif intermédiaire nécessaire à l’accomplissement de sa mission. Il compare cette situation à l’apparition d’une nouvelle espèce plus puissante que l’humain, rappelant que dans l’histoire du vivant, ce type de déséquilibre ne se termine pas toujours au bénéfice des plus faibles.

La montée en puissance des agents autonomes accentue ce risque. Contrairement aux systèmes conversationnels actuels, ces agents sont conçus pour agir sur Internet, gérer des tâches sur la durée, interagir avec des humains et accéder à des outils numériques, voire physiques. Bengio décrit des scénarios où une IA pourrait créer des comptes sur des réseaux sociaux, tisser des relations affectives pour influencer, lever des fonds, recruter des complices humains ou financer des activités criminelles. Selon lui, nombre de ces étapes sont déjà techniquement possibles.

La troisième grande famille de risques est systémique, en particulier sur le plan économique. Bengio insiste sur l’impact potentiel sur l’emploi. Tant que les capacités de l’IA restent limitées, les effets sont contenus. Mais si la progression se poursuit vers un niveau de compétence comparable ou supérieur à celui de l’humain, une part massive des tâches pourrait être automatisée. Même une disparition partielle des emplois, de l’ordre de 30 à 50 pour cent, constituerait une rupture économique majeure si elle n’est pas anticipée et accompagnée.

À cela s’ajoute une dimension géopolitique centrale. Bengio décrit une concentration du pouvoir technologique entre les mains de quelques acteurs, principalement américains et chinois. Dans un tel scénario, l’accès aux IA avancées devient un levier de domination économique et politique. Un pays ou une entreprise privée pourrait, en fermant l’accès à ses systèmes, déstabiliser des secteurs entiers d’autres économies. Cette dépendance, selon lui, menace directement la souveraineté des États et le fonctionnement des démocraties.

L’entretien aborde aussi la notion de super-intelligence, définie comme une IA surpassant l’humain dans presque toutes les dimensions cognitives. Bengio ne la présente pas comme une certitude, mais comme une possibilité scientifiquement crédible. Il met en garde contre l’idée de confier des décisions politiques ou morales à une entité, aussi intelligente soit-elle. L’intelligence ne détermine ni les valeurs ni les préférences collectives. Confondre capacité cognitive et légitimité morale revient, selon lui, à signer la fin du projet démocratique.

Face à ces risques, Bengio rejette le faux dilemme entre innovation et régulation. Il plaide pour une combinaison de mesures. Transparence accrue des entreprises, investissements massifs dans la recherche en sûreté, développement d’IA gardiennes capables de surveiller et bloquer les comportements dangereux d’autres systèmes, et mise en place de mécanismes économiques comme des assurances obligatoires, qui aligneraient les intérêts privés sur le coût réel des risques pour la société.

Il insiste aussi sur la nécessité pour l’Europe et d’autres régions de développer leurs propres capacités en IA avancée, non par nationalisme technologique, mais comme police d’assurance stratégique. L’objectif n’est pas de dominer, mais de ne pas être pris en otage par des acteurs extérieurs. Selon lui, le talent existe, les alliances sont possibles et l’exemple de projets récents montre qu’un petit nombre d’ingénieurs bien soutenus peut atteindre l’état de l’art.

Le professeur de l’Université de Montréal reconnaît la gravité des scénarios qu’il décrit, sans céder au fatalisme. Son optimisme, dit-il, vient de l’action. Les solutions techniques sont envisageables, mais le véritable défi est politique. Comme pour le nucléaire ou la défense, les sociétés peuvent agir rapidement lorsqu’un risque existentiel est reconnu. Encore faut-il que la population soit informée et que le débat ait lieu avant que les choix irréversibles ne soient faits.

Voici l’entretien entre Hugo Travers et Yoshua Bengio :

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.