À l’occasion des élections de mi-mandat aux États-Unis, les grandes entreprises d’intelligence artificielle déploient des moyens exceptionnels pour empêcher que leurs technologies servent à manipuler les électeurs. OpenAI, Anthropic, Google et Meta renforcent leurs dispositifs de surveillance alors que les outils d’IA générative permettent désormais de fabriquer de fausses images, des vidéos truquées et des campagnes de désinformation de plus en plus sophistiquées.

Dans un reportage aujourd’hui dans le New York Times, le journaliste Steven Lee Myers décrit une véritable cellule de crise installée dans les bureaux d’OpenAI à San Francisco. Plus d’une douzaine de spécialistes s’y relaient en permanence pour repérer les tentatives d’utilisation malveillante de ChatGPT. Cette équipe travaille également avec un centre satellite à Washington, dans le cadre d’une opération mobilisant plusieurs dizaines d’employés.

Cette mobilisation marque un changement important par rapport à l’élection présidentielle de 2024. À l’époque, les risques concernaient principalement la production de textes trompeurs. Deux ans plus tard, les capacités de l’intelligence artificielle ont considérablement évolué. Les systèmes peuvent maintenant générer des contenus audiovisuels convaincants, faciliter certaines cyberattaques et contribuer à l’organisation d’opérations d’influence complexes à partir de quelques instructions.

Chez OpenAI, cette cellule de surveillance électorale est dirigée par Josh Lawson, responsable des risques civiques et stratégiques. Ses équipes examinent notamment les demandes adressées à ChatGPT qui ont été automatiquement signalées comme suspectes. Les analystes cherchent à identifier les tentatives de fabrication de fausses informations électorales, de création d’images trompeuses ou de préparation de campagnes coordonnées destinées aux réseaux sociaux. Lorsqu’une activité malveillante destinée à circuler sur une plateforme est détectée, OpenAI peut prévenir l’entreprise concernée pour faciliter une intervention.

Anthropic a adopté une approche semblable en créant sa première cellule de crise électorale. L’entreprise derrière Claude a réparti ses analystes entre San Francisco, New York et Washington. Google et Meta affirment également avoir renforcé leurs efforts pour limiter les usages de leurs technologies susceptibles de compromettre la confiance du public dans le processus démocratique.

Selon Ben Nimmo, responsable des enquêtes chez OpenAI, l’objectif est de détecter les opérations d’influence avant qu’elles ne prennent de l’ampleur. L’entreprise a déjà documenté des tentatives d’utilisation de ChatGPT dans des opérations liées à la Russie, à la Chine et à l’Iran. Elle affirme notamment avoir perturbé deux campagnes le mois dernier. Au moment de la publication du reportage, OpenAI n’avait toutefois pas rendu publique d’opération précise visant les élections américaines de mi-mandat de 2026.

Le défi est d’autant plus complexe que les mêmes technologies peuvent servir à vérifier des informations et à produire de fausses preuves. Une étude du Brennan Center for Justice, rattaché à la faculté de droit de l’Université de New York, a constaté que les assistants conversationnels populaires repoussent généralement les demandes liées aux théories complotistes électorales. Toutefois, les chercheurs ont également démontré que des outils d’intelligence artificielle pouvaient générer des textes, des images et des vidéos susceptibles d’alimenter la méfiance envers les élections.

Cette situation soulève une question importante concernant les responsabilités des entreprises technologiques. Les dispositifs actuels rappellent les mesures mises en place par Meta lors des élections américaines de 2018, après les révélations sur les opérations d’ingérence russes sur Facebook pendant la présidentielle de 2016. Depuis, plusieurs plateformes ont réduit leurs équipes consacrées à la modération et à la sécurité électorale, notamment dans un contexte de critiques républicaines les accusant de censurer certaines opinions conservatrices.

Parallèlement, l’administration Trump a démantelé certaines structures gouvernementales américaines auparavant chargées de lutter contre les opérations d’ingérence et les tentatives de perturbation du processus électoral. Cette évolution renforce le rôle des entreprises privées dans la détection des campagnes de manipulation, sans toutefois garantir la transparence ou l’efficacité de leurs interventions.

Pour plusieurs spécialistes, le danger ne se limite pas à la diffusion de fausses nouvelles. La multiplication de contenus artificiels peut également provoquer une méfiance généralisée envers les informations authentiques. Lorsque des images, des vidéos et des enregistrements sonores peuvent être fabriqués facilement, il devient aussi plus simple de remettre en question des preuves pourtant réelles.

Les cellules de crise mises en place par OpenAI et Anthropic témoignent d’une prise de conscience de l’industrie devant ces nouveaux risques. Mais leur existence ne signifie pas que toutes les opérations de désinformation pourront être détectées ou neutralisées. L’intelligence artificielle permet désormais de produire des contenus trompeurs plus rapidement, à moindre coût et en grande quantité, ce qui complique considérablement le travail des journalistes, des autorités électorales et des plateformes numériques.

À mesure que l’intelligence artificielle s’intègre dans les communications politiques et les réseaux sociaux, la protection des élections dépasse désormais la sécurité des bureaux de vote et du dépouillement. Elle concerne aussi la capacité des citoyens à distinguer les faits des fabrications numériques. Un défi qui risque de prendre encore plus d’importance lors des prochains rendez-vous électoraux.

Source : ny times

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.