OpenAI affirme que son robot conversationnel ChatGPT a refusé de participer à une opération d’influence visant la première ministre japonaise Sanae Takaichi. Selon l’entreprise, un individu associé aux forces de l’ordre chinoises aurait sollicité l’outil pour élaborer une stratégie de dénigrement en ligne.

D’après OpenAI, la demande portait sur la rédaction et l’amplification de messages négatifs accusant Sanae Takaichi, première femme à occuper le poste de cheffe du gouvernement au Japon, d’orientations d’extrême droite. Le plan aurait émergé à la mi-octobre, peu avant son élection, alors qu’elle critiquait la situation des droits humains en Mongolie intérieure.

L’entreprise basée à San Francisco indique avoir interprété les éléments recueillis comme révélateurs d’un effort « à grande échelle, soutenu et intensif en ressources » pour mener des opérations d’influence, tant à l’intérieur qu’à l’extérieur de la Chine. Pékin a rejeté ces accusations. La porte-parole du ministère chinois des Affaires étrangères, Mao Ning, a déclaré ne pas reconnaître les faits évoqués.

Dans la même mise à jour, OpenAI signale avoir identifié d’autres usages malveillants de ses services, notamment des arnaques sentimentales visant des internautes indonésiens, une ferme de contenus sur les réseaux sociaux liée à la Russie et des comptes soupçonnés d’origine chinoise cherchant à obtenir des informations auprès de responsables américains.

Cette annonce survient dans un contexte de tensions diplomatiques accrues entre Tokyo et Pékin. Sanae Takaichi a récemment suscité une réplique officielle de la Chine après des déclarations sur Taïwan, territoire que Pékin considère comme faisant partie intégrante de son espace souverain. Les frictions diplomatiques continuent d’avoir des répercussions sur le tourisme et les échanges commerciaux entre les deux pays.

Au-delà de cet épisode, l’affaire relance le débat sur le rôle des entreprises d’intelligence artificielle dans la détection et la prévention des campagnes de désinformation. OpenAI insiste sur le fait que ses systèmes sont conçus pour refuser les demandes visant à manipuler l’opinion publique ou à interférer dans des processus politiques, mais reconnaît que la surveillance et l’ajustement de ces garde-fous demeurent un chantier permanent.

Source : Bloomberg

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.