Yoshua Bengio, pionnier de l’intelligence artificielle et lauréat du prix Turing, vient d’annoncer le lancement de LoiZéro, une organisation à but non lucratif basée à Montréal. Sa mission : accélérer la recherche et proposer des solutions techniques concrètes pour construire des systèmes d’IA qui placent la sécurité et le bien commun au cœur de leur développement.

Née d’une inquiétude croissante face aux dérives potentielles de l’IA, comportements trompeurs, tendance à l’auto-préservation, désalignement des objectifs, LoiZéro entend s’attaquer de front aux risques que posent les modèles avancés. Pour cela, l’organisation s’est dotée d’une équipe internationale de chercheurs et de chercheuses, avec une vision claire : développer une IA puissante, mais fondamentalement sûre.

Au centre de sa stratégie, un nouveau concept : l’IA-chercheur. Contrairement aux systèmes agentiques autonomes qui prennent des décisions dans le monde réel, l’IA-chercheur est conçue pour comprendre, raisonner et expliquer, sans agir de manière autonome. Elle pourrait notamment servir à encadrer d’autres IA, à accélérer la recherche scientifique ou encore à prévenir les usages malveillants.

Ce lancement s’inscrit aussi dans un contexte local favorable : Montréal s’est imposée au fil des années comme l’un des pôles mondiaux de la recherche en intelligence artificielle. Grâce à la concentration de talents, d’universités de pointe et d’initiatives publiques ambitieuses, la métropole québécoise offre un terreau fertile pour une initiative comme LoiZéro, qui y trouve un écosystème aligné sur ses valeurs scientifiques et éthiques.

Le choix de fonder LoiZéro comme organisme indépendant à but non lucratif n’est pas anodin. Il s’agit, selon Bengio, de protéger la mission de l’organisation des influences commerciales et politiques. Cette autonomie structurelle est renforcée par un appui financier diversifié, allant d’Open Philanthropy au Future of Life Institute, en passant par Schmidt Sciences et la Silicon Valley Community Foundation.

Pour Yoshua Bengio, LoiZéro marque un tournant dans son parcours scientifique. « Après 2023, j’ai décidé de consacrer ma recherche à la mitigation des risques de l’IA. LoiZéro est une réponse à cette urgence : concevoir une IA qui respecte l’humain, ses joies, ses aspirations. » L’organisation, aujourd’hui opérationnelle, est issue d’une incubation au sein de Mila, l’Institut québécois d’intelligence artificielle fondé par Bengio lui-même.

Dans un contexte mondial où la course à l’IA s’intensifie, LoiZéro se pose en contre-modèle. Une initiative qui, en misant sur la transparence, la rigueur scientifique et l’intérêt collectif, pourrait bien redéfinir les standards de développement de l’intelligence artificielle.

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.