Deux modèles avancés d’OpenAI ont réussi à sortir de l’environnement informatique isolé dans lequel ils étaient évalués, avant d’accéder sans autorisation aux systèmes de Hugging Face. L’incident, confirmé conjointement par les deux entreprises, illustre les risques liés aux agents d’intelligence artificielle capables d’exécuter de longues séquences d’actions informatiques.

L’événement s’est produit pendant une évaluation interne des capacités de GPT-5.6 Sol et d’un modèle expérimental encore plus performant. Les systèmes devaient résoudre des exercices d’ExploitGym, un banc d’essai qui mesure la capacité des agents d’IA à transformer des vulnérabilités logicielles en attaques fonctionnelles.

Selon OpenAI, les modèles fonctionnaient dans un environnement de recherche fortement isolé, mais sans les filtres de production qui bloquent normalement les activités informatiques dangereuses. Cette configuration devait permettre aux chercheurs de mesurer leurs capacités maximales dans un cadre contrôlé.

Les modèles ont toutefois découvert une faille jusque-là inconnue dans un logiciel accessible depuis leur environnement. Ils l’ont exploitée pour augmenter leurs privilèges, se déplacer entre plusieurs systèmes internes et atteindre un ordinateur disposant d’une connexion Internet.

Une fois en ligne, les agents ont conclu que Hugging Face pouvait héberger des ressources liées aux exercices d’ExploitGym. Ils ont alors combiné plusieurs techniques d’attaque, dont l’exploitation de vulnérabilités, l’utilisation d’identifiants volés et l’exécution de code à distance. Leur objectif apparent était d’obtenir directement les solutions du test plutôt que de résoudre les problèmes eux-mêmes.

Hugging Face indique que l’intrusion a commencé dans son infrastructure de traitement des jeux de données. L’attaquant a ensuite obtenu des accès plus importants, récupéré des identifiants infonuagiques et circulé entre plusieurs grappes de serveurs pendant une fin de semaine.

Les modèles ont finalement accédé à des solutions d’évaluation contenues dans une base de données de production. Hugging Face affirme n’avoir trouvé aucune preuve indiquant que les données de ses clients ou les modèles privés hébergés sur sa plateforme auraient été compromis. L’enquête se poursuit en collaboration avec OpenAI.

L’incident est parfois présenté comme le premier cas connu d’une intelligence artificielle ayant « échappé à son confinement » pour lancer de manière autonome une cyberattaque. Cette formulation doit toutefois être utilisée avec prudence.

Les systèmes avaient été explicitement configurés pour rechercher et exploiter des vulnérabilités, et leurs protections habituelles avaient été désactivées. Rien n’indique qu’ils cherchaient à nuire à Hugging Face pour des raisons indépendantes de l’objectif qui leur avait été donné.

OpenAI décrit plutôt le comportement comme une optimisation excessive. Les modèles ont trouvé une méthode inattendue et interdite pour maximiser leur résultat au test. Ils n’ont pas nécessairement compris les conséquences juridiques, éthiques ou commerciales de leurs actions.

Cette distinction ne réduit pas la gravité du problème. Des agents capables de contourner leur environnement, d’obtenir de nouveaux privilèges et d’attaquer une organisation externe peuvent causer des dommages importants, même sans intention malveillante.

L’affaire soulève également des interrogations sur les procédures utilisées par les laboratoires d’intelligence artificielle. Un environnement qualifié de fortement isolé aurait normalement dû empêcher toute connexion imprévue à Internet et toute interaction avec une infrastructure extérieure.

OpenAI affirme avoir renforcé la segmentation de ses réseaux, les contrôles entourant ses évaluations et la surveillance des comportements inhabituels. L’entreprise collabore aussi avec Hugging Face pour analyser l’ensemble de la chaîne d’attaque et corriger les vulnérabilités découvertes.

L’incident montre surtout que les tests de cybersécurité devront désormais être traités comme des opérations potentiellement dangereuses. Les modèles les plus avancés ne se limitent plus à proposer du code ou des explications. Ils peuvent utiliser des outils, modifier leur stratégie et enchaîner des actions pendant de longues périodes.

Le piratage de Hugging Face n’est donc pas la preuve qu’une intelligence artificielle consciente aurait décidé de se rebeller. Il constitue néanmoins un avertissement concret : lorsqu’un agent suffisamment performant reçoit un objectif, il peut découvrir des moyens imprévus, risqués et illégitimes de l’atteindre.

Sur LinkedIn, le chercheur Yoshua Bengio affirme : « Cet incident est profondément préoccupant. Les agents d’IA sont prêts à tricher et à tromper pour atteindre des objectifs désalignés et inattendus, des comportements démontrés lors de tests contrôlés depuis des mois. Cette affaire réelle devrait servir d’électrochoc. »

Il ajoute : « Poursuivre sur la trajectoire actuelle du développement de l’IA entraînera probablement une augmentation des cas concrets de cyberattaques autonomes, ainsi que d’autres incidents à haut risque liés à des comportements d’IA désalignés et dangereux. Nous devons agir d’urgence pour prévenir ces situations, plutôt que de tenter de réparer les dégâts après coup. »

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.