L’intelligence artificielle transforme rapidement nos sociétés, offrant des opportunités inédites, mais aussi des défis considérables. Pour la première fois, un groupe de 96 experts issus de 30 pays, sous la direction du chercheur québécois Yoshua Bengio, publie un rapport international sur la sécurité de l’IA avancée. Ce document scientifique vise à fournir aux gouvernements une compréhension approfondie des risques et des pistes d’action pour encadrer cette technologie en pleine expansion.

« Si elle renferme un grand potentiel pour la société, l’IA présente aussi des risques importants qui doivent être gérés avec soin par les gouvernements du monde entier », souligne Yoshua Bengio, qui insiste sur l’urgence d’une gouvernance internationale.

Le rapport met en lumière la rapidité des progrès en IA générale. Il y a cinq ans, les modèles de langage peinaient à produire des textes cohérents. Aujourd’hui, des systèmes comme GPT-4o, Gemini 1.5 ou Claude 3.5 sont capables d’écrire des articles, de coder des logiciels complexes et même de résoudre des problèmes scientifiques avancés.

Une tendance particulièrement inquiétante est le développement d’agents autonomes capables de prendre des décisions sans supervision humaine. Selon le rapport, ces systèmes, encore à un stade précoce, pourraient « exécuter des tâches sur de longues périodes, planifier et coordonner des actions avec d’autres IA », augmentant les risques de perte de contrôle.

Le rapport identifie trois grands axes de risques liés à l’IA :

La première menace concerne les usages malveillants de l’IA, qui peut être exploitée par des cybercriminels, des États hostiles ou des groupes aux intentions douteuses. L’IA est aujourd’hui capable de générer du contenu ultra-réaliste, rendant la désinformation plus efficace que jamais. Par exemple, en 2024, une fausse vidéo du président américain Joe Biden appelant à ne pas voter a circulé massivement avant les élections, illustrant la facilité avec laquelle des deepfakes peuvent manipuler l’opinion publique. Le rapport souligne également que l’IA peut être utilisée pour améliorer des cyberattaques : des modèles comme LLaMA 3 permettent d’identifier des failles de sécurité en quelques minutes, augmentant ainsi les risques pour les infrastructures critiques. Plus inquiétant encore, des expériences récentes ont montré que certaines IA avancées pouvaient proposer des instructions détaillées pour concevoir des armes biologiques et chimiques, une évolution jugée préoccupante par les experts.

La deuxième grande catégorie de risques concerne les dysfonctionnements des systèmes d’IA, qui peuvent conduire à des décisions biaisées ou erronées. Déjà, des algorithmes utilisés dans le domaine médical ont généré des recommandations incorrectes, mettant en danger des patients. Aux États-Unis, un système d’IA utilisé pour évaluer les risques de récidive chez les détenus a été accusé de présenter un biais racial systémique, attribuant des scores de risque plus élevés aux minorités. L’IA peut également amplifier des stéréotypes, influencer des décisions commerciales ou politiques et générer des erreurs difficiles à détecter, faute de transparence dans son fonctionnement. Le rapport alerte également sur la perte de contrôle que pourraient subir les humains face à des IA devenues trop autonomes. Si ce scénario reste encore hypothétique, certains experts considèrent qu’il pourrait devenir une réalité dans les prochaines décennies.

Enfin, les experts s’inquiètent des risques systémiques liés à l’IA, qui pourraient perturber profondément l’économie et la société. L’une des préoccupations majeures est l’impact sur le marché du travail : selon une étude du MIT, l’IA pourrait menacer jusqu’à 40 % des professions actuelles d’ici 2035. L’automatisation rapide de nombreuses tâches risque d’accroître le chômage, notamment dans les secteurs administratifs et techniques. Le rapport souligne aussi la concentration du pouvoir technologique entre quelques grandes entreprises comme OpenAI, Google DeepMind et Anthropic, ce qui pourrait mener à une situation d’oligopole où quelques acteurs décideraient de l’avenir de l’IA. Autre enjeu de taille, la consommation énergétique des modèles les plus avancés, comme GPT-4, est colossale : un seul entraînement peut nécessiter autant d’électricité qu’une ville de 100 000 habitants pendant un an, soulevant des questions environnementales majeures.

L’une des principales conclusions du rapport est l’incertitude sur la vitesse d’évolution de l’IA. Certains chercheurs estiment que des systèmes d’IA superintelligents pourraient émerger d’ici 5 à 10 ans, tandis que d’autres considèrent que cela prendra plusieurs décennies.

Cette incertitude rend difficile la mise en place de réglementations adaptées. « Les décideurs devront souvent prendre des décisions avec des données incomplètes, sans attendre des preuves irréfutables des risques », indique le document.

Face à ces défis, plusieurs mesures sont proposées :

1. Un cadre international de gouvernance : inspiré des régulations sur le nucléaire ou la biotechnologie, un traité international sur l’IA pourrait limiter les usages dangereux.
   
2. Une transparence accrue des modèles d’IA : exiger des entreprises qu’elles publient des audits de sécurité avant le lancement de nouveaux modèles.
   
3. Un encadrement strict des IA ouvertes : les modèles accessibles au public, comme ceux de Meta ou Mistral, doivent intégrer des garde-fous pour éviter leur détournement par des criminels.
   
4. Des protocoles de gestion de crise : créer des équipes d’intervention rapide pour répondre aux incidents liés à l’IA, à l’image des cyberéquipes gouvernementales.
   
5. Un investissement massif dans la recherche sur l’IA sécurisée : promouvoir des alternatives plus robustes et contrôlables.

Ce rapport servira de base aux discussions du Sommet sur l’IA à Paris en février 2025, où des chefs d’État et des experts tenteront d’établir une feuille de route commune. Il marque une étape clé vers une gouvernance plus stricte de l’IA et pourrait influencer les politiques publiques à venir.

Comme le souligne Yoshua Bengio : « Nous avons une fenêtre de temps limitée pour agir. Ce qui est décidé aujourd’hui déterminera si l’IA deviendra un atout ou une menace pour l’humanité ».

L’avenir de l’IA reste incertain, mais une chose est sûre : les choix faits aujourd’hui façonneront le monde de demain.