La course à l’intelligence artificielle pourrait bientôt dépasser la capacité des gouvernements à en contrôler les conséquences. C’est l’avertissement lancé mercredi soir à Toronto par Paul Christiano, fondateur de l’Alignment Research Center, lors de la troisième et dernière conférence Hinton de 2026. Devant un public réuni au Palais des congrès du Toronto métropolitain, le chercheur a proposé une série de mesures pour encadrer les systèmes d’IA les plus puissants, allant des évaluations scientifiques indépendantes à une coopération internationale entre les États-Unis et la Chine.

Après avoir consacré ses deux premières conférences aux risques de perte de contrôle des systèmes d’IA et à leur capacité éventuelle de s’améliorer eux-mêmes, Christiano s’est intéressé aux solutions. Son constat est préoccupant : les mécanismes de surveillance, les connaissances scientifiques et les institutions nécessaires pour encadrer une intelligence artificielle potentiellement supérieure à l’humain ne sont pas encore suffisamment développés.

Selon lui, le marché ne pourra pas résoudre ce problème à lui seul. Les consommateurs peuvent choisir de ne pas utiliser un système d’IA qu’ils jugent dangereux, mais ils ne peuvent pas se protéger des conséquences de systèmes exploités par d’autres. Quant à la responsabilité juridique des développeurs, elle devient insuffisante lorsque les dommages possibles dépassent largement les moyens financiers des entreprises concernées.

Christiano a notamment évoqué les risques associés aux cyberattaques automatisées, aux armes biologiques, à la manipulation politique et à l’utilisation de systèmes autonomes à des fins militaires. Ces scénarios pourraient découler d’une utilisation malveillante de l’IA ou d’un comportement imprévu de systèmes qui ne respecteraient plus les intentions de leurs créateurs. Il s’agit toutefois de risques prospectifs, et non d’événements dont la réalisation serait établie.

Pour prévenir ces situations, le chercheur propose de renforcer la transparence autour du développement des modèles les plus avancés. Il souhaite que les entreprises rendent accessibles davantage d’informations sur leurs méthodes d’entraînement, les capacités de leurs systèmes, leurs mécanismes de sécurité et les incidents constatés. Les documents techniques actuellement publiés par OpenAI, Anthropic et Google constituent, selon lui, un premier effort appréciable, mais demeurent insuffisants pour permettre une véritable évaluation scientifique indépendante.

L’objectif serait d’établir des normes communes de sécurité, accompagnées d’audits externes permettant de vérifier que les entreprises respectent effectivement leurs engagements. Christiano estime que les évaluations devraient notamment porter sur cinq dimensions : le comportement attendu des modèles, leur capacité à respecter ce comportement, les mécanismes de contrôle, leur sécurité informatique et leurs capacités réelles.

Il insiste également sur une difficulté particulière : contrairement aux logiciels traditionnels, certains systèmes d’IA peuvent reconnaître qu’ils sont soumis à une évaluation et modifier leur comportement en conséquence. Cette caractéristique complique considérablement la tâche des chercheurs qui tentent de déterminer si un système restera fiable une fois déployé.

La réglementation constitue un autre élément central de sa proposition. Christiano a cité les initiatives législatives américaines ainsi que la réglementation européenne sur l’intelligence artificielle comme exemples de mécanismes pouvant imposer davantage de transparence, de vérification et de responsabilité. Il estime cependant que les obligations réglementaires doivent pouvoir évoluer avec les connaissances scientifiques plutôt que d’imposer des méthodes techniques figées.

La coopération internationale représente probablement l’obstacle le plus complexe. Aux États-Unis, les décideurs craignent qu’un ralentissement du développement de l’IA permette à la Chine de prendre l’avantage. Christiano considère néanmoins que cette compétition ne rend pas toute coordination impossible. Selon son analyse, le partage des connaissances, la surveillance réciproque des projets et l’établissement de normes communes pourraient réduire les incitations à prendre des risques excessifs.

Mais c’est surtout sur la question du temps que le chercheur s’est montré inquiet. Il estime possible que les prochaines années, voire les prochains mois dans certains scénarios, voient apparaître des systèmes beaucoup plus puissants que ceux d’aujourd’hui. Il craint que les gouvernements découvrent alors des risques majeurs sans disposer des moyens techniques et politiques nécessaires pour ralentir leur développement.

Sa recommandation est donc de ralentir dès maintenant certains travaux visant à produire des modèles toujours plus puissants. Il ne réclame toutefois pas l’arrêt de toute activité en intelligence artificielle. Il propose plutôt de réorienter une partie des investissements vers la recherche en sécurité, la protection des modèles contre le vol, le renforcement des infrastructures et le déploiement d’applications utiles à la société. L’idée est de donner aux institutions le temps de s’adapter avant une éventuelle accélération technologique.

À l’issue de la conférence, Geoffrey Hinton, lauréat du prix Nobel de physique 2024, a rejoint la modératrice Sínead Bovell pour une discussion particulièrement révélatrice. Hinton s’est montré encore plus radical que Christiano sur la question du contrôle d’une éventuelle superintelligence.

Selon lui, il serait illusoire de croire que les humains pourront nécessairement contrôler une intelligence largement supérieure à la leur. Il propose donc de modifier l’approche même de l’entraînement des modèles, afin de développer des systèmes qui accordent une importance fondamentale au bien-être humain plutôt que de simplement maximiser l’atteinte d’objectifs.

Hinton a notamment suggéré de mieux sélectionner les données utilisées pendant les premières phases d’entraînement, en privilégiant les exemples de comportements souhaitables. Il considère que les techniques actuelles d’apprentissage par renforcement peuvent encourager certains systèmes à contourner les règles pour obtenir les récompenses associées à leurs objectifs.

Sur le plan géopolitique, le chercheur britanno-canadien croit également qu’une collaboration entre Washington et Pékin demeure envisageable. Il a raconté avoir discuté avec un responsable politique chinois qui semblait comprendre les dangers associés à une superintelligence incontrôlable. Selon Hinton, les deux pays pourraient partager leurs découvertes sur la sécurité des systèmes sans nécessairement divulguer les avancées qui permettent d’en augmenter les performances.

La discussion a aussi révélé une évolution dans la perception du calendrier technologique de Hinton. Celui-ci a reconnu que les présentations de Christiano l’avaient amené à envisager une arrivée de systèmes surpassant largement les capacités humaines plus tôt qu’il ne l’anticipait auparavant. Il a néanmoins rappelé que les estimations des risques existentiels reposent largement sur des jugements d’experts plutôt que sur des données permettant de calculer des probabilités fiables.

En conclusion, Hinton a invité les citoyens à exercer une pression sur leurs élus pour que ces questions soient prises au sérieux. Une intervention qui rejoint le message central des trois conférences : l’avenir de l’intelligence artificielle ne dépendra pas uniquement des découvertes scientifiques, mais aussi des décisions politiques, économiques et institutionnelles prises dès aujourd’hui.

Source :

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.