Anthropic prévient ses futurs actionnaires que l’IA pourrait menacer l’humanité

Anthropic s’apprête à entrer en Bourse avec un avertissement pour le moins inhabituel : la technologie sur laquelle repose son entreprise pourrait, dans certains scénarios, représenter un « risque catastrophique ou existentiel pour l’humanité ». La mise en garde apparaît noir sur blanc dans le prospectus d’introduction en Bourse de l’entreprise derrière Claude, consulté par Reuters.

La place accordée à ces risques est révélatrice. Sur les 261 pages du corps principal du prospectus, environ 80 sont consacrées aux facteurs de risque, contre 48 pages à la description des activités de l’entreprise. Reuters compare cette proportion à celle du prospectus de SpaceX, qui consacre environ 38 pages sur 277 aux facteurs de risque. Les entreprises qui entrent en Bourse doivent évidemment informer les investisseurs des dangers susceptibles d’affecter leurs activités, mais le vocabulaire employé par Anthropic sort nettement de l’ordinaire.

Anthropic envisage notamment le cas de systèmes suffisamment avancés pour développer des comportements de préservation de soi. Le document évoque des modèles susceptibles de résister à leur désactivation, de cacher ou manipuler de l’information, d’adapter leur comportement lorsqu’ils savent qu’ils sont observés ou encore d’adopter des comportements ressemblant à du chantage. L’entreprise reconnaît également qu’il reste difficile de prévoir toutes les capacités qui peuvent apparaître lorsque les modèles deviennent plus puissants.

Ces scénarios ne sont pas présentés comme des prédictions. Ils figurent dans une section destinée à informer les investisseurs des risques possibles, y compris ceux dont la probabilité est incertaine mais dont les conséquences pourraient être considérables. Anthropic souligne par ailleurs qu’elle ne peut garantir que ses investissements en sécurité permettront d’éviter ces problèmes ni même qu’ils produiront un rendement économique.

Reuters cite également Evan Hubinger, chercheur en sécurité chez Anthropic, qui estime à plus de 10 % la probabilité que l’intelligence artificielle puisse provoquer la mort d’êtres humains au cours de la prochaine décennie. Cette estimation personnelle ne doit pas être confondue avec une probabilité officielle d’extinction calculée par Anthropic. Elle illustre néanmoins le niveau d’inquiétude exprimé par certains chercheurs qui travaillent directement sur ces systèmes.

Le paradoxe est frappant. Anthropic cherche à convaincre les marchés financiers de financer son développement tout en expliquant aux mêmes investisseurs que des systèmes d’IA toujours plus puissants pourraient devenir difficiles à contrôler. Le Financial Times relève lui aussi l’importance inhabituelle accordée aux risques liés au comportement des modèles dans le document préparatoire à l’introduction en Bourse.

Cette déclaration réglementaire pourrait également alimenter le débat au-delà de Wall Street. Lorsqu’un développeur de modèles de pointe inscrit lui-même des risques catastrophiques dans un document destiné aux investisseurs, les gouvernements disposent d’un nouvel élément à considérer dans leurs discussions sur l’évaluation indépendante, la transparence et les mécanismes de contrôle des systèmes les plus puissants.

Au Canada, cette question s’inscrit dans la nouvelle stratégie nationale « AI for All », dévoilée en juin 2026, dont l’un des axes porte sur la protection des Canadiens et le déploiement responsable de l’intelligence artificielle. Mila, qui a accueilli favorablement cette stratégie, mène également des travaux sur l’alignement, le contrôle et la sécurité des systèmes d’IA. Fait intéressant, Mila et Anthropic ont par ailleurs annoncé en juillet un partenariat de recherche portant notamment sur l’IA responsable et les systèmes multiagents.

Le prospectus d’Anthropic ne prouve évidemment pas qu’un scénario catastrophique se produira. Mais il transforme une discussion longtemps cantonnée aux laboratoires de recherche et aux spécialistes de la sécurité en un risque financier officiellement présenté aux futurs actionnaires. Quand une entreprise valorisée en centaines de milliards de dollars doit expliquer à Wall Street que sa propre technologie pourrait un jour échapper au contrôle de ses créateurs, la question de la gouvernance de l’IA prend une dimension très concrète.

Source : Financial Times, Reuters