La recherche en sciences sociales fait face à une menace sérieuse selon une étude récemment publiée dans la revue PNAS. Sean Westwood, professeur associé de science politique au Collège Dartmouth du New Hampshire et directeur du Polarization Research Lab, y présente une intelligence artificielle conçue pour répondre à des sondages en ligne en se faisant passer pour un humain. L’agent synthétique autonome aurait réussi à contourner 99,8 % des outils de détection habituellement utilisés pour repérer les bots.

L’étude montre que l’IA est capable d’échapper à toutes les mesures standard destinées à filtrer les réponses non humaines. Les sondages reposent généralement sur des questions de vérification de l’attention, des indicateurs comportementaux ou l’analyse des schémas de réponses. Westwood explique que son outil a déjoué chacun de ces mécanismes, y compris des dispositifs plus avancés conçus spécifiquement pour détecter les réponses générées par un modèle de langage. L’IA a aussi réussi à passer des tests dits « reverse shibboleth », c’est-à-dire des tâches impossibles pour un humain mais faciles pour un modèle.

L’un des points les plus préoccupants de l’étude tient au niveau de réalisme atteint par cet agent automatique. Selon le papier scientifique cité dans l’article, l’IA simule des temps de lecture cohérents avec le niveau d’éducation du profil qu’elle imite, génère des mouvements de souris de manière crédible et tape les réponses caractère par caractère en incluant fautes et corrections. Cette précision comportementale permet à l’agent d’éviter non seulement les filtres automatisés, mais aussi les systèmes anti-bot externes comme reCAPTCHA.

L’étude indique également que l’IA peut endosser des profils démographiques complets et cohérents. Cela signifie qu’un acteur mal intentionné pourrait, en théorie, manipuler les résultats d’enquêtes en ligne en injectant un nombre réduit mais stratégique de faux répondants. Selon la communication de Dartmouth, certains sondages nationaux importants auraient changé de résultat en 2024 si seulement 10 à 52 réponses synthétiques avaient été ajoutées. Le coût d’une réponse générée par l’IA est évalué à environ cinq cents, alors qu’un participant humain reçoit généralement un dollar cinquante.

Le système conçu par Westwood est « agnostique au modèle », ce qui signifie qu’il peut fonctionner avec différentes technologies. L’étude a notamment utilisé o4-mini, mais elle mentionne aussi des tests avec DeepSeek R1, Mistral Large, Claude 3.7 Sonnet, Grok3 ou Gemini 2.5 Preview. L’outil s’appuie sur un prompt d’environ 500 mots qui définit le type de persona à imiter, puis sur un moteur de raisonnement qui choisit chaque réponse avant qu’un second module ne simule l’exécution humaine.

Face à cette nouvelle réalité, le chercheur propose plusieurs pistes pour limiter la contamination des données. Parmi elles, un renforcement de la vérification d’identité ou l’utilisation de sources d’échantillonnage plus contrôlées, comme les fichiers électoraux ou les bases d’adresses. Toutefois, ces approches comportent des compromis, notamment en matière de confidentialité ou d’accès à des populations diversifiées.

L’étude conclut que la validité future des sondages et de la recherche en sciences sociales dépendra de l’innovation méthodologique. Les chercheurs devront repenser la manière dont ils recrutent les participants et dont ils vérifient la nature humaine des réponses, dans un contexte où les modèles d’intelligence artificielle évoluent rapidement et deviennent de plus en plus indiscernables des répondants réels.

Source : 404 Media

+++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.