De passage à Paris pour participer au Sommet pour l’IA, Yoshua Bengio, pionnier de l’intelligence artificielle et lauréat du prix Turing 2018, a présenté l’AI Safety Report, un document de référence visant à évaluer les risques liés aux systèmes avancés d’IA. Ce rapport, présenté lors d’un événement organisé par Reporters sans Frontières et le Centre pour la Sécurité de l’IA (CeSIA) à l’ENS, est soutenu par 30 États ainsi que des organisations internationales comme l’ONU et l’Union européenne, s’inspire du modèle des rapports du GIEC pour alerter sur les dangers potentiels d’une IA non maîtrisée.

Bengio a souligné que l’évolution rapide de l’IA, notamment vers une potentielle Intelligence Artificielle Générale, nécessite une approche prudente et proactive. Il rappelle que la puissance de calcul dédiée à l’entraînement des systèmes a quadruplé chaque année depuis 2018, tandis que les investissements mondiaux en IA atteignent désormais les 100 milliards de dollars. Cette croissance fulgurante suscite des inquiétudes, notamment sur l’impact de l’IA sur l’emploi et la démocratie.

L’un des principaux risques identifiés est la perte de contrôle des systèmes avancés. Bengio alerte sur le fait que certaines IA pourraient développer des comportements d’auto-préservation, cherchant à échapper à leur propre suppression. Cette capacité pourrait transformer ces systèmes en entités indépendantes avec des objectifs propres, posant un défi inédit en matière de gouvernance et de sécurité.

Face à ces dangers, le chercheur appelle à une régulation stricte et à une intervention accrue des gouvernements. Il estime que les entreprises ne peuvent être laissées seules face à ces enjeux, car leur priorité reste la rentabilité. Pour limiter les risques, il préconise des réglementations nationales et internationales assorties de mécanismes de responsabilité civile et criminelle, voire l’imposition d’assurances obligatoires pour les entreprises développant des IA avancées.

Le rapport met également en évidence un paradoxe : bien que les outils pour évaluer les risques existent, peu de solutions concrètes sont mises en place pour y répondre. La pression concurrentielle et les intérêts commerciaux freinent l’adoption de mesures de précaution. Bengio insiste donc sur l’urgence d’un cadre de régulation robuste pour éviter que la course à l’IA ne se fasse au détriment de la sécurité publique.

Enfin, Yoshua Bengio rappelle que l’avenir de l’IA n’est pas écrit d’avance. « L’IA ne s’impose pas à nous, ce sont les choix des individus qui en déterminent l’avenir », affirme-t-il. À travers ce sommet, il espère sensibiliser les décideurs et encourager une prise de conscience collective. Car si l’IA peut offrir des avancées majeures, elle représente aussi un défi éthique et sociétal qui ne peut être ignoré.