Quand un logiciel malveillant demande conseil à quatre intelligences artificielles

Les chercheurs en cybersécurité de Cisco Talos viennent de documenter un logiciel malveillant qui illustre très concrètement une nouvelle étape dans l’utilisation de l’intelligence artificielle par les cybercriminels. Baptisé CLOSED QUORUM, cet implant Windows ne se contente pas d’utiliser un modèle d’IA pour générer du texte ou du code. Il consulte plusieurs modèles pour décider lui-même de la prochaine action à mener sur un ordinateur compromis.

Le programme, écrit en Go et pesant environ 16,4 Mo, commence par dresser un portrait de la machine infectée. Il récupère notamment la version de Windows, l’architecture du système, le nom de l’ordinateur, le nombre de processeurs et le niveau de privilèges dont il dispose. Ces informations deviennent ensuite le contexte soumis à quatre grands modèles d’intelligence artificielle : DeepSeek, Qwen, Mistral et Gemini.

Chaque modèle doit alors recommander une action parmi un nombre limité de possibilités. CLOSED QUORUM compare les réponses et choisit celle qui obtient le plus de votes. En cas d’égalité, DeepSeek est prioritaire, suivi de Qwen, Mistral et Gemini. Autrement dit, le logiciel malveillant fonctionne un peu comme un petit conseil d’administration composé de quatre IA qui votent sur la prochaine étape de l’attaque.

Les options sont loin d’être théoriques. Le programme peut chercher à voler des identifiants, récupérer des mots de passe enregistrés dans les navigateurs, cibler certains portefeuilles de cryptomonnaies, injecter du code dans d’autres processus ou installer des mécanismes lui permettant de survivre au redémarrage de Windows. Une fonction de déplacement latéral, qui servirait à passer d’une machine à une autre sur le même réseau, est également prévue, mais elle n’était pas encore fonctionnelle dans la version analysée par Cisco Talos.

Les données récupérées peuvent ensuite être chiffrées en AES-256-GCM avant d’être envoyées vers un webhook Discord. Ce choix montre aussi à quel point les cybercriminels peuvent détourner des services tout à fait légitimes pour communiquer avec leurs outils ou récupérer de l’information volée.

Ce qui rend CLOSED QUORUM particulièrement intéressant, ce n’est donc pas seulement sa capacité à voler des données. C’est le fait que certaines décisions habituellement prises par le développeur du logiciel ou par un serveur de commande et contrôle sont ici confiées à plusieurs modèles d’intelligence artificielle externes.

Il faut toutefois garder la découverte en perspective. Cisco Talos n’a trouvé aucune preuve que cet implant ait déjà été déployé dans une véritable campagne de cyberattaque. L’échantillon analysé contient notamment des clés API fictives et un webhook Discord factice, ce qui laisse croire à un prototype ou à une version encore en développement. La fonction de déplacement latéral n’est elle non plus pas terminée.

Cela n’enlève rien à l’intérêt de l’expérience. Jusqu’ici, une grande partie des discussions sur l’IA et la cybercriminalité portait sur l’utilisation de modèles pour rédiger des courriels d’hameçonnage, produire du code malveillant ou automatiser certaines tâches. CLOSED QUORUM va un peu plus loin : l’IA devient un élément du mécanisme de décision du logiciel malveillant lui-même.

Pour repérer ce genre de menace, Cisco Talos a d’ailleurs lancé un outil baptisé CAIRN. Son rôle est de rechercher dans les logiciels suspects des traces révélant une connexion avec des modèles d’intelligence artificielle, par exemple des adresses d’API, des clés, des prompts intégrés au code ou des structures propres aux agents IA.

On n’assiste donc pas encore à l’arrivée d’un virus entièrement autonome capable d’improviser une attaque sans intervention humaine. CLOSED QUORUM demeure un prototype limité et dépend fortement de services externes. Mais il montre clairement la direction que pourraient prendre certains logiciels malveillants : plutôt que d’exécuter uniquement une série d’ordres programmés à l’avance, ils pourraient progressivement analyser leur environnement, consulter plusieurs modèles et adapter leur comportement en fonction de la situation.

Une évolution qui risque de compliquer le travail des spécialistes en cybersécurité, car ils devront désormais surveiller non seulement ce que fait un logiciel malveillant, mais aussi la manière dont il utilise l’intelligence artificielle pour décider de ce qu’il fera ensuite.

Sources : talos intelligence, thread linqs, talos cairn