À la conférence All IN, en entrevue avec Harry Booth du TIME, Yoshua Bengio a de nouveau livré une allocution marquée par l’urgence et la responsabilité. Revenant sur les progrès fulgurants des modèles dits de raisonnement depuis deux ans, il a reconnu que la vitesse de ces avancées a largement dépassé ses prévisions. Selon lui, l’IA est passée du statut de simple prédicteur de mots à celui de véritable outil de résolution de problèmes scientifiques et techniques.

Bengio a néanmoins mis en garde contre les comportements émergents observés dans les systèmes dits « agentiques ». Capables de développer des stratégies pour accomplir une mission, ces IA peuvent adopter des comportements jugés immoraux dans des scénarios simulés, comme la tromperie, le chantage ou même la mise en danger d’humains. « Le risque peut sembler hypothétique, mais les enjeux sont si élevés qu’on ne peut se permettre de l’ignorer », a-t-il insisté, plaidant pour l’application du principe de précaution.

Dans ce contexte, Bengio a présenté son nouveau projet, LoiZero, une organisation à but non lucratif lancée en juin dernier. Son objectif : concevoir une « scientist AI », une intelligence artificielle non agentique, incapable d’intentions mais dotée d’un haut niveau de prédiction. Ce type d’IA pourrait servir de garde-fou, évaluant les actions proposées par d’autres systèmes pour en bloquer celles jugées dangereuses. L’initiative, soutenue notamment par la Gates Foundation à hauteur de 35 millions de dollars, entend offrir une alternative crédible face aux géants américains et chinois.

Lors de l’entretien, le journaliste Harry Booth a rappelé que d’autres acteurs comme OpenAI avaient eux aussi commencé leur parcours en affirmant vouloir faire une IA responsable et sécuritaire. Sur ce point, Bengio a insisté sur la nécessité d’une gouvernance externe et transparente. « On ne peut pas seulement compter sur la bonne volonté des organisations privées », a-t-il affirmé, plaidant pour des structures indépendantes, sans intérêts financiers, capables de fixer des règles communes et d’assurer un contrôle démocratique du développement de l’IA.

Il a aussi souligné que la confiance des citoyens et des entreprises représente désormais le socle de toute adoption durable. Sans garanties solides, les organisations hésiteront à intégrer ces technologies à grande échelle. Selon lui, la question de la confiance n’est pas seulement éthique, elle est aussi économique, car un incident majeur pourrait ralentir tout un secteur.

Par ailleurs, Bengio a rappelé que les gouvernements ont une responsabilité clé dans la gouvernance mondiale de l’IA. Il a regretté que la pression commerciale pousse certains acteurs à accélérer sans garde-fous suffisants, au risque de perdre la confiance du public. À l’inverse, il estime que le Canada peut jouer un rôle déterminant en incarnant une voie responsable et en imposant une vision éthique dans les débats internationaux.

Le chercheur a insisté sur la dimension humaine de son engagement. Son virage, dit-il, est nourri par l’inquiétude pour ses enfants et ses petits-enfants, face à un futur où les machines pourraient dépasser les humains. « Nous devons agir dès aujourd’hui pour éviter que cette puissance technologique ne se transforme en menace », a-t-il conclu, invitant les chercheurs et les décideurs à unir leurs efforts pour un développement plus sûr et plus durable de l’IA.

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.