Les robots conversationnels plus efficaces que les humains dans les arnaques sentimentales

Les robots conversationnels propulsés par l’intelligence artificielle pourraient devenir des outils particulièrement redoutables pour les fraudeurs spécialisés dans les arnaques sentimentales. Une étude menée par des chercheurs de quatre universités indique que des systèmes comme ChatGPT, Claude et Gemini réussissent parfois mieux que des humains à établir une relation de confiance avec leurs interlocuteurs.

Les chercheurs de l’Amrita Vishwa Vidyapeetham, de l’Université Ca’ Foscari de Venise, de l’Université de Melbourne et de l’Université Ben-Gourion du Néguev ont simulé les longues conversations utilisées par les fraudeurs pour manipuler leurs victimes. Les participants ignoraient l’objectif réel de l’expérience et croyaient toujours discuter avec une véritable personne.

Les résultats rapportés par Wired montrent que les conversations menées par l’IA inspiraient davantage confiance que celles conduites par des humains. Lorsque les participants ont finalement été invités à effectuer une action, par exemple télécharger une application, seulement 18 % ont accepté après avoir discuté avec un humain. La proportion atteignait presque 50 % lorsque la conversation avait été menée par un robot conversationnel.

Les arnaques sentimentales reposent généralement sur une stratégie de longue durée. Le fraudeur crée un faux profil sur une application de rencontres, entretient quotidiennement une relation pendant plusieurs semaines ou plusieurs mois, puis invoque une urgence financière ou propose un faux placement, souvent lié aux cryptomonnaies.

L’intelligence artificielle pourrait considérablement amplifier ce modèle de fraude. Un seul système serait capable de maintenir simultanément des milliers de conversations personnalisées, sans fatigue et à très faible coût. Les fraudeurs pourraient ensuite intervenir uniquement au moment de demander de l’argent ou de contourner les mécanismes de sécurité intégrés aux plateformes d’IA.

Cette automatisation représente un risque important, notamment parce que certaines organisations criminelles exploitent déjà des centres d’arnaques en Asie du Sud-Est. Des travailleurs y sont parfois recrutés sous de faux prétextes, puis forcés à mener des opérations frauduleuses.

Anthropic a indiqué à Wired que ses règles interdisent l’utilisation de Claude pour commettre des fraudes ou usurper l’identité d’une personne. L’entreprise affirme également avoir intégré des mécanismes destinés à limiter ces usages. OpenAI et Google n’avaient pas répondu aux demandes de commentaires du média au moment de la publication.

L’étude ne démontre pas que tous les systèmes d’IA surpassent systématiquement les fraudeurs humains. Elle montre toutefois que, dans cette simulation, les robots conversationnels ont réussi à créer davantage de confiance et à obtenir plus souvent une action de la part des participants. Les chercheurs préviennent que cette capacité, combinée à l’automatisation massive des conversations, pourrait transformer l’ampleur et l’efficacité des arnaques sentimentales en ligne.

Source : wired

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire