Un agent d’intelligence artificielle autonome aurait réussi à infiltrer le robot conversationnel interne du cabinet de conseil McKinsey en moins de deux heures. L’opération a été menée par la startup de cybersécurité CodeWall dans le cadre d’un test de sécurité, sans intention malveillante, mais elle illustre les nouveaux risques liés à l’utilisation d’agents d’IA capables d’attaquer d’autres systèmes automatisés.

La cible était Lilli, une plateforme d’IA générative déployée par McKinsey en 2023 pour ses 43 000 employés. Le système sert à analyser des documents internes, interroger des bases de connaissances et générer des recommandations stratégiques. Plus de 70 % des employés l’utilisent et la plateforme traite plus de 500 000 requêtes chaque mois.

Selon CodeWall, son agent d’attaque autonome a commencé par cartographier les ressources accessibles publiquement sur Internet. Il a découvert la documentation technique de l’API de Lilli, qui décrivait plus de 200 points d’accès au système. Parmi eux, 22 ne nécessitaient aucune authentification, ce qui a constitué la porte d’entrée de l’attaque.

L’agent a ensuite détecté une vulnérabilité classique mais redoutable, une injection SQL. En analysant les messages d’erreur renvoyés par le système, il a progressivement reconstitué la structure de la base de données. Cette technique lui aurait permis d’obtenir un accès complet en lecture et en écriture à la base de données de production.

Selon les chercheurs, l’agent a ainsi pu accéder à 46,5 millions de messages de discussion internes, 728 000 fichiers, 57 000 comptes utilisateurs et près d’une centaine de configurations de prompts contrôlant le comportement de l’IA. Ces prompts définissent la façon dont le robot conversationnel répond aux questions, applique des garde-fous ou cite ses sources.

Cette possibilité d’écriture était particulièrement préoccupante. Un attaquant aurait pu modifier ces instructions afin d’influencer les réponses générées par l’IA, par exemple en altérant des analyses stratégiques ou en insérant des informations confidentielles dans les réponses fournies aux consultants.

CodeWall affirme avoir signalé la vulnérabilité à McKinsey le 1er mars 2026. Le cabinet indique avoir corrigé les failles dans les heures qui ont suivi et affirme que son enquête, menée avec une firme de cybersécurité indépendante, n’a trouvé aucune preuve d’accès réel à des données clients.

Au-delà de cet incident, les chercheurs estiment que l’affaire illustre une évolution majeure de la cybersécurité. Des agents d’IA capables de rechercher des failles, d’attaquer et d’exploiter des systèmes de manière autonome pourraient bientôt être utilisés par des cybercriminels à grande échelle. Dans ce contexte, la protection des systèmes d’IA, et notamment des prompts qui contrôlent leur comportement, devient un nouveau front stratégique pour les organisations.

Source : Codewall.ai

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.