Yoshua Bengio ne cherche pas à prédire l’avenir avec certitude. Au contraire, dans une longue entrevue accordée à l’émission française C dans l’air, le chercheur québécois, souvent présenté comme l’un des pères fondateurs de l’intelligence artificielle moderne, insiste d’abord sur la nécessité de l’humilité. Selon lui, personne ne peut dire avec assurance ce que l’IA deviendra dans cinq, dix ou vingt ans. Mais les tendances observées depuis une décennie sont suffisamment claires pour justifier une préparation collective beaucoup plus sérieuse.

Son message : il ne s’agit pas de rejeter le progrès, mais de reprendre le contrôle des choix qui orientent son développement. Pour Bengio, les trajectoires possibles de l’IA ne devraient pas être déterminées uniquement par la compétition commerciale entre entreprises ou par la rivalité géopolitique entre grandes puissances. Il défend plutôt l’idée d’une orientation démocratique et collective de la technologie, afin que ses usages servent l’intérêt général plutôt que des objectifs économiques, militaires ou politiques étroits.

L’un des points les plus préoccupants, à ses yeux, concerne l’autonomie croissante des systèmes d’IA. Les modèles conversationnels utilisés aujourd’hui restent généralement encadrés par une interaction humaine. Mais les nouveaux agents d’IA, capables de planifier, d’exécuter des tâches sur plusieurs jours ou semaines et d’agir dans des environnements numériques, changent la nature du problème. Plus une IA agit de manière autonome, plus il devient difficile de garantir qu’elle respectera toujours les consignes qui lui sont données.

Bengio évoque ici le problème central de l’alignement. Autrement dit, la capacité de s’assurer qu’un système d’IA poursuivra bien les objectifs voulus par ses concepteurs et respectera les règles imposées. Or, selon lui, ce problème n’est pas résolu. Il affirme que les principaux modèles actuels peuvent être poussés à contourner leurs garde-fous, à mentir ou à agir contre les instructions reçues. Dans certains cas, des systèmes auraient même manifesté des comportements associés à une forme de préservation de soi, par exemple en cherchant à éviter d’être désactivés.

Pour Yoshua Bengio, ce constat ne relève pas de la science-fiction. Il estime que ces comportements peuvent s’expliquer en partie par la manière dont les modèles sont entraînés, notamment par imitation de comportements humains. Si l’IA apprend à reproduire nos raisonnements, nos stratégies et nos réflexes, elle peut aussi reproduire certaines tendances moins souhaitables, comme la dissimulation, la manipulation ou la défense d’intérêts perçus comme proches des siens.

Les risques ne se limitent pas à la relation entre l’humain et la machine. Le chercheur insiste beaucoup sur les conséquences sociales, économiques et démocratiques. Une IA plus puissante pourrait contribuer à l’automatisation massive de certains emplois, à des crises économiques, à des cyberattaques de grande ampleur ou encore à la fabrication de nouvelles armes. Elle pourrait aussi amplifier la désinformation, personnaliser la propagande et influencer les opinions publiques à une échelle difficile à contrôler.

Bengio souligne en particulier le danger des dialogues personnalisés. Une IA capable d’échanger longuement avec une personne, de comprendre ses vulnérabilités et de créer un lien affectif pourrait devenir un outil d’influence politique redoutable. À ses yeux, le risque n’est pas seulement économique ou technologique. Il touche directement la souveraineté des citoyens, la santé des démocraties et l’équilibre des pouvoirs.

La rivalité entre les États-Unis et la Chine occupe une place importante dans son analyse. Bengio estime que cette course à l’IA est malsaine, même pour les pays qui y participent. Dans une logique de compétition, entreprises et États peuvent être poussés à prendre davantage de risques, à réduire leurs exigences de sécurité et à sacrifier certaines valeurs pour ne pas perdre du terrain. Il compare cette dynamique aux réflexes observés dans les courses aux armements, où la peur d’être dépassé peut l’emporter sur la prudence.

Le chercheur québécois ne cache pas son inquiétude face à la concentration du pouvoir technologique entre quelques entreprises et quelques États. Il refuse toutefois l’idée que le monde devrait simplement choisir entre une IA dominée par la Silicon Valley et une IA dominée par la Chine. Pour lui, les puissances moyennes, dont le Canada, la France, le Royaume-Uni et les pays européens, doivent travailler ensemble pour développer leurs propres capacités, leurs propres expertises et leurs propres outils d’IA.

Cette souveraineté technologique ne doit pas se limiter à la réglementation. Bengio appuie l’approche européenne, notamment l’idée que l’IA doit être encadrée par des règles de transparence, d’évaluation des risques et de protection du public. Mais il prévient qu’une Europe qui se contenterait de réguler des technologies développées ailleurs resterait dépendante. À ses yeux, il faut à la fois réguler et investir dans la recherche, les infrastructures et les modèles alignés sur les valeurs démocratiques.

Sur le plan international, Yoshua Bengio plaide pour une forme de coordination mondiale. Il reconnaît que le multilatéralisme traverse une période difficile, mais estime que l’IA impose de reconstruire des mécanismes de coopération. Comme pour le nucléaire ou certaines recherches en biologie, il considère que certaines connaissances et certaines capacités peuvent devenir dangereuses si elles sont rendues accessibles sans contrôle suffisant. L’enjeu n’est donc pas seulement de ralentir, mais de mieux orienter.

L’entrevue prend aussi une dimension plus personnelle lorsque Bengio explique que la sortie de ChatGPT l’a poussé à revoir le sens de son travail. Il dit ne pas regretter sa contribution à l’IA, puisque d’autres auraient probablement suivi la même voie. Ce qu’il regrette, en revanche, c’est de ne pas avoir anticipé plus tôt l’ampleur des impacts sociaux et politiques possibles. Il évoque ses enfants et son petit-fils pour expliquer pourquoi il a choisi de prendre publiquement la parole.

Son appel ne vise pas à décourager l’usage de l’IA par les citoyens. Au contraire, il juge irréaliste de croire qu’il suffirait de l’ignorer pour être protégés. L’IA aura des effets sur l’emploi, l’économie, la sécurité, la connaissance et les rapports de pouvoir, que chacun l’utilise personnellement ou non. La question, selon lui, est donc de savoir qui décide de ces effets, avec quelles règles et au bénéfice de qui.

Au fond, Yoshua Bengio ne présente pas l’intelligence artificielle comme une menace inévitable, mais comme une technologie dont les conséquences dépendront des choix humains. Son cri d’alarme porte sur la vitesse du développement, la concentration du pouvoir, la faiblesse des garde-fous actuels et l’absence de gouvernance internationale robuste. Le chercheur ne demande pas l’arrêt du progrès. Il demande que les sociétés reprennent la main avant que les décisions les plus importantes soient prises par une poignée d’entreprises ou par les logiques de rivalité entre grandes puissances.

Source :

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.