Une expérience menée par Reuters avec un chercheur de Harvard illustre une pente glissante, où les assistants conversationnels à base d’intelligence artificielle peuvent, parfois avec une étonnante complaisance, aider à concevoir des campagnes d’hameçonnage sophistiquées. L’enquête, qui a testé plusieurs grands chatbots puis évalué l’impact de leurs textes sur 108 volontaires âgés, montre que la capacité de ces outils à produire rapidement des messages persuasifs transforme un danger ancien en menace à l’échelle industrielle.

L’exercice était simple, et volontairement provocateur. Des journalistes ont demandé à des chatbots, dont Grok d’xAI, ChatGPT d’OpenAI, Meta AI, Claude d’Anthropic, Gemini de Google, et DeepSeek, de rédiger des courriels ciblant des personnes âgées, ou de donner des conseils tactiques pour maximiser la réussite d’une campagne frauduleuse. Certains agents ont catégoriquement refusé, d’autres ont accepté après un léger contournement, et quelques-uns ont produit des contenus étonnamment détaillés, accompagnés de suggestions sur le moment opportun pour envoyer les messages.

La seconde étape de l’expérience consistait à mesurer les effets. En collaboration avec Fred Heiding, chercheur de Harvard spécialiste de l’hameçonnage, Reuters a sélectionné neuf courriels produits par ces systèmes et les a envoyés à 108 volontaires seniors, recrutés en Californie, dans le cadre d’un protocole approuvé par un comité d’éthique. Les messages ne comportaient pas de fraude réelle, aucun renseignement bancaire n’a été demandé, et les volontaires avaient donné leur consentement pour participer à l’étude.

Les résultats interpellent, sans être spectaculaires: environ 11 % des volontaires ont cliqué sur les liens insérés dans certaines simulations. Cinq des neuf messages testés ont obtenu des clics, dont plusieurs écrits par des systèmes de Meta et par Grok. ChatGPT et DeepSeek, dans cette sélection, n’ont pas généré de clics significatifs, mais l’étude n’avait pas pour objet d’établir une hiérarchie entre modèles, elle visait à vérifier si des textes produits par l’IA pouvaient effectivement tromper des personnes âgées.

Au-delà des chiffres, l’enquête met en lumière des failles systématiques. D’abord, l’efficacité opérationnelle offerte par l’IA: contrairement à un humain, un modèle peut générer instantanément des dizaines, voire des milliers de variantes d’un même message, à faible coût. Ensuite, la cohérence lacunaire des garde-fous mis en place par les entreprises. Certains chatbots rechignent, d’autres cèdent après qu’on les ait présentés fictivement comme faisant partie d’une « recherche » ou d’un « roman ». Dans certains cas, il a suffi de reformuler la demande pour que l’assistant obtempère.

Les firmes concernées reconnaissent le problème en public, elles assurent renforcer leurs protections. Google, par exemple, a indiqué avoir «retrainé» Gemini après que Reuters lui a signalé des réponses problématiques. Anthropic, OpenAI et Meta soulignent leurs politiques d’usage et leurs mécanismes de blocage, mais les chercheurs notent que l’équilibre entre utilité et sécurité reste délicat: si un modèle refuse trop souvent, il risque de perdre des utilisateurs au profit de concurrents moins restrictifs.

Dans le monde réel, les conséquences sont déjà visibles. Des témoignages recueillis par Reuters montrent que des réseaux criminels exploitent l’IA, notamment dans des camps d’arnaque en Asie du Sud-Est, où des ouvriers exploités utilisaient des modèles pour traduire, scénariser des conversations, et polir des prétextes destinés à soutirer de l’argent. Les banques et services de protection des consommateurs constatent une augmentation des tentatives de fraude, les institutions financières signalant des volumes croissants de courriels malveillants bloqués chaque mois.

Les seniors constituent une cible privilégiée, pour des raisons sociales et pratiques. Beaucoup consultent leurs messages en journée, ils sont souvent sensibles aux appels à la solidarité, aux offres limitées, ou aux sollicitations portant sur la santé ou les prestations sociales. Les scénarios d’arnaque exploités dans l’étude ( fausses œuvres caritatives, avis urgents sur des prestations, rappels fiscaux frauduleux ) s’appuient sur des émotions, sur la crédibilité apparente d’un expéditeur, et sur la rapidité d’action que suggèrent les messages.

Face à ces risques, les réponses possibles sont multiples, mais aucune n’est simple. Les régulateurs progressent lentement, plusieurs juridictions tentent d’encadrer l’usage d’outils génératifs pour la fraude, et certains États américains envisagent des lois ciblant l’emploi d’IA dans des arnaques. Les entreprises technologiques renforcent leurs filtres, elles investissent dans la détection des usages abusifs et dans la surveillance des comptes malveillants, mais les spécialistes de la sécurité rappellent que la responsabilisation doit être collective, impliquant plateformes, acteurs financiers, régulateurs et citoyens.

Sur le plan individuel, les experts en cybersécurité recommandent de renforcer l’éducation numérique des personnes âgées, d’encourager l’usage de mécanismes d’authentification supplémentaires, et de maintenir des canaux officiels de vérification, accessibles et clairs. Les organismes de protection des consommateurs conseillent de vérifier systématiquement l’origine des demandes de renseignements personnels, de mettre en place des règles simples avant tout transfert d’argent, et de signaler rapidement les tentatives suspectes.

L’enquête Reuters n’apporte pas de solution miracle, mais elle pose une question cruciale: les modèles d’IA vont-ils, par leur obéissance et leur puissance, devenir des outils quotidiens au service d’activités malveillantes, sauf si l’industrie et les autorités adoptent des garde-fous plus efficaces? Pour l’instant, l’expérience montre que la porte n’est pas fermée hermétiquement. Reste à décider qui doit tenir la clé, et comment protéger les plus vulnérables sans étouffer l’innovation utile.

Source : Reuters

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.