IA : Pékin conteste l’appel d’Anthropic à ralentir la course

La Chine réagit vivement à l’appel lancé par plusieurs dirigeants américains de l’intelligence artificielle en faveur d’un ralentissement du développement des modèles les plus avancés. Pékin estime que les préoccupations de sécurité pourraient servir de prétexte pour renforcer les restrictions technologiques contre les entreprises chinoises.

Aujourd’hui, le porte-parole du ministère chinois des Affaires étrangères, Guo Jiakun, a appelé les pays à favoriser un développement de l’IA « ouvert, inclusif, universellement bénéfique et éthique ». Il a également déclaré que les discours alarmistes, la confrontation et la compétition agressive risquaient de nuire à la gouvernance mondiale de l’intelligence artificielle. Bloomberg rapporte que cette réaction faisait directement suite aux appels lancés aux États-Unis pour ralentir le développement des modèles de pointe.

Cette prise de position survient après la publication d’un important essai de Dario Amodei, PDG d’Anthropic. Dans We Must Pace the Frontier, il affirme que l’industrie doit modérer volontairement la progression des capacités des modèles afin de donner davantage de temps aux chercheurs pour améliorer leur sécurité et leur contrôle.

Amodei propose notamment de permettre à des évaluateurs indépendants d’avoir un accès approfondi aux systèmes des grands laboratoires d’IA. Il souhaite également que les principaux développeurs puissent coordonner certaines normes de sécurité et éventuellement le rythme de progression des modèles, avec l’appui des gouvernements.

Son appel a reçu un accueil favorable de plusieurs figures importantes de l’industrie américaine. Sam Altman, PDG d’OpenAI, a appuyé l’idée d’offrir aux évaluateurs indépendants un accès comparable à celui d’employés, tandis qu’Elon Musk s’est également rangé derrière les préoccupations exprimées par Amodei.

Mais cette proposition ne fait pas l’unanimité, y compris en Amérique du Nord. Au Canada, Aidan Gomez, cofondateur et PDG de Cohere, a publié dimanche une réponse dans laquelle il met en garde contre une coordination du ralentissement menée principalement par les laboratoires qui dominent déjà l’industrie.

Gomez partage plusieurs préoccupations d’Amodei concernant la sécurité, mais estime qu’une entente entre quelques grandes entreprises pourrait concentrer encore davantage le pouvoir et créer des barrières pour les plus petits acteurs, les chercheurs et les développeurs de modèles ouverts. Il préfère des règles publiques, internationales, fondées sur des risques démontrables et appliquées par des organismes véritablement indépendants. Là où Amodei veut surtout donner du temps à la recherche sur la sécurité, Gomez insiste davantage sur les risques déjà observables, notamment les cyberattaques, la fraude, le clonage vocal et l’utilisation de systèmes d’IA dans les infrastructures essentielles.

La réaction chinoise ajoute maintenant une dimension géopolitique à ce débat.

Amodei estime en effet que les entreprises américaines ne peuvent ralentir que si elles conservent une avance suffisante sur leurs concurrentes chinoises. Il préconise notamment un contrôle plus strict de l’accès de la Chine aux puces avancées, un renforcement de la sécurité des laboratoires américains et des mesures destinées à empêcher l’utilisation des résultats de modèles américains pour entraîner des systèmes concurrents par distillation.

C’est précisément cette combinaison entre sécurité et compétition technologique que Pékin conteste. Le Global Times, média d’État chinois, accuse Amodei de promouvoir une forme de « guerre froide » de l’intelligence artificielle destinée à préserver l’avance américaine et à freiner le développement technologique chinois.

La position chinoise présente toutefois une nuance importante. Pékin ne nie pas les risques liés à l’intelligence artificielle. Le ministre chinois de la Sécurité d’État, Chen Yixin, a lui-même averti que l’IA pourrait être utilisée pour générer de la désinformation, produire des hypertrucages, découvrir des vulnérabilités informatiques ou attaquer des infrastructures critiques.

La divergence porte donc moins sur l’existence des risques que sur la manière de les gérer et sur ceux qui auront le pouvoir d’établir les règles.

Anthropic estime que la rapidité des progrès justifie une coordination beaucoup plus étroite entre les principaux développeurs et les gouvernements. Cohere répond que cette approche pourrait consolider le pouvoir des entreprises qui dominent déjà le marché. La Chine, de son côté, soupçonne Washington d’utiliser le vocabulaire de la sécurité pour préserver son avantage technologique.

Il faut comprendre maintenant que la frontière entre sécurité de l’IA et compétition stratégique devient de plus en plus difficile à distinguer. Et cette controverse illustre surtout la difficulté de mettre en place un véritable ralentissement mondial de l’intelligence artificielle. Même lorsque les différents acteurs reconnaissent l’existence de risques importants, leurs intérêts économiques, technologiques et géopolitiques divergent profondément.

La question n’est donc plus seulement de savoir s’il faut ralentir le développement de l’IA. Elle devient aussi beaucoup plus politique : qui décidera du rythme, qui fixera les règles et qui sera chargé de vérifier que tout le monde les respecte ?

Source : Bloomberg