La possibilité qu’une intelligence artificielle puisse un jour menacer l’existence même de l’humanité n’est plus seulement un scénario de science-fiction. Elle fait désormais l’objet de recherches, de débats scientifiques et d’avertissements provenant de certains spécialistes qui travaillent directement au développement des systèmes les plus avancés. Mais lorsqu’on examine les publications scientifiques disponibles, le portrait est beaucoup plus nuancé que ne le laissent entendre les déclarations les plus alarmistes.

Le débat a été ravivé cette semaine par le départ de Jacob Coxon, un chercheur ayant travaillé chez OpenAI et Anthropic. Dans une entrevue à Wired, il affirme que les prochaines années pourraient être déterminantes pour parvenir à contrôler des systèmes d’IA beaucoup plus puissants. Chez Anthropic, Evan Hubinger, qui dirige des travaux sur l’alignement, estime personnellement à plus de 10 % la probabilité qu’une IA puisse provoquer la disparition de l’humanité au cours de la prochaine décennie. Il faut immédiatement préciser que ce chiffre représente son jugement personnel. Il ne s’agit ni d’une mesure scientifique du risque ni de la position officielle d’Anthropic.

Pour aller au-delà de ces déclarations individuelles, trois publications scientifiques permettent de mieux comprendre ce que nous savons réellement. La suite de l’article est disponible aux abonnés payants de Notes Confidentielles.