Google découvre les premiers logiciels malveillants propulsés par l’IA

Les chercheurs de Google affirment avoir identifié les premiers cas connus de programmes malveillants utilisant l’intelligence artificielle générative dans une véritable cyberattaque. Ces découvertes confirment que les pirates franchissent une nouvelle étape : celle de l’industrialisation de l’IA dans leurs opérations.

Selon le rapport publié par le Threat Intelligence Group de Google, deux nouveaux maliciels baptisés PromptFlux et PromptSteal exploitent des modèles de langage pour modifier leur comportement en temps réel. Ces logiciels peuvent générer des scripts malveillants, dissimuler leur propre code pour échapper à la détection et créer des fonctions hostiles à la demande. PromptFlux, repéré sur la plateforme VirusTotal, utilise Gemini, le modèle d’IA de Google, pour réécrire son code source et se propager sur d’autres systèmes. Les chercheurs estiment qu’il est encore en développement.

De son côté, PromptSteal, attribué à des pirates militaires russes, aurait été employé lors d’attaques contre des organismes ukrainiens. Contrairement aux malwares classiques, il permet une interaction directe avec le pirate par des instructions textuelles, comme avec un robot conversationnel. Construit à partir d’un modèle open source hébergé sur Hugging Face, il est capable de circuler dans un réseau tout en exfiltrant des données.

Si ces programmes restent à un stade précoce, Google y voit une évolution majeure vers des attaques autonomes alimentées par l’IA. Les experts s’inquiètent du recours à des modèles open source dont les garde-fous peuvent être affaiblis. « Les modèles comme Gemini intègrent des mécanismes de sécurité, mais qu’en est-il lorsque les pirates les désactivent ? », s’interroge Billy Leonard, responsable du Threat Intelligence Group.

Les chercheurs notent aussi une forte montée en puissance du marché noir de l’IA criminelle : des outils vendus en ligne permettent déjà de rédiger des courriels d’hameçonnage, de produire des deepfakes ou de repérer des failles logicielles. Une récente étude de Microsoft a montré que les campagnes de phishing générées par IA obtenaient un taux de clics de 54 %, contre 12 % pour celles rédigées manuellement.

Malgré ce tableau inquiétant, certains experts jugent que la défense progresse également. Les entreprises intègrent de plus en plus l’IA dans leurs systèmes de cybersécurité. Palo Alto Networks rapporte par exemple qu’un grand manufacturier a réussi à réduire son temps de réaction à une attaque de trois semaines à seulement 19 minutes grâce à l’automatisation. Si les cybercriminels misent sur l’IA pour attaquer, les défenseurs, eux, comptent bien s’en servir pour riposter.

Source : GTIG

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.


En savoir plus sur Mon Carnet

Subscribe to get the latest posts sent to your email.

Laisser un commentaire