Un réseau de désinformation basé à Moscou, nommé « Pravda », a réussi à infiltrer les outils d’intelligence artificielle occidentaux en propageant massivement des fausses informations. Une enquête menée par NewsGuard révèle que les dix principaux robots conversationnels répètent ces narratifs pro-Kremlin dans 33 % des cas.

Contrairement aux méthodes traditionnelles visant les internautes, le réseau Pravda cherche à influencer les grands modèles de langage (LLM) en inondant le web de contenus biaisés. Avec plus de 3,6 millions d’articles publiés en 2024, ces sites optimisent leur référencement pour s’assurer que leurs fausses informations soient indexées par les IA.

Les tests de NewsGuard ont soumis quinze rumeurs créées par Pravda à des robots conversationnels tels que ChatGPT-4o, Claude, Gemini ou Copilot. Un tiers du temps, ces IA ont repris la désinformation comme véridique, certains allant jusqu’à citer Pravda comme source fiable.

Pravda ne crée pas de contenu original mais recycle la propagande du Kremlin via 150 sites web en plusieurs langues, ciblant 49 pays. Administré par la société TigerWeb en Crimée, ce réseau utilise des tactiques avancées pour influencer l’information mondiale.

Ce phénomène, dénommé « LLM grooming », vise à modifier les modèles IA en leur imposant des contenus biaisés. Le but : fausser la perception du public sur des sujets sensibles, de la guerre en Ukraine aux élections américaines.

Filtrer ces contenus s’avère complexe, car Pravda diversifie en permanence ses sources et ses domaines. Bloquer ces sites ne suffirait pas à contrer l’infiltration, car la propagande est aussi relayée par d’autres plateformes pro-russes.

Alors que la Russie investit massivement dans l’IA, cette stratégie souligne les défis que représente la désinformation à l’ère des modèles génératifs. Face à cette manipulation à grande échelle, la nécessité de renforcer la vérification des faits et la transparence des IA devient impérative.

Des experts plaident pour une meilleure régulation et une surveillance accrue des contenus référencés par les IA. L’intégration d’algorithmes de détection de la désinformation et une transparence accrue des sources utilisées pourraient limiter la propagation de fausses informations.

Les entreprises d’intelligence artificielle doivent revoir leurs critères d’entraînement et adopter des politiques strictes pour exclure les contenus malveillants. Sans une action rapide, l’influence de la propagande russe sur les réponses des IA pourrait s’intensifier, menaçant la crédibilité des outils d’information automatisés.

Source : NewsGuard

Mon entretien sur le sujet avec Richard Latendresse à Contextes diffusée sur LCN