Et si une intelligence artificielle pouvait se copier elle-même, passer d’un appareil à un autre et continuer à fonctionner sans jamais dépendre d’un grand centre de données ? Ce scénario, qui relevait encore récemment de la science-fiction, pourrait devenir techniquement possible d’ici quelques mois. Dans une étude publiée hier, deux chercheurs d’Anthropic, William Zhou et Daniel Freeman, démontrent que de petits modèles d’intelligence artificielle possèdent déjà plusieurs des capacités nécessaires pour se propager de manière autonome sur des appareils connectés. Téléviseurs intelligents, caméras de surveillance, aspirateurs robots et même électroménagers pourraient éventuellement servir d’hôtes à ces programmes. Une perspective qui soulève de nouvelles inquiétudes en cybersécurité, notamment parce qu’une telle intelligence artificielle pourrait devenir particulièrement difficile à éliminer une fois installée sur un grand nombre d’appareils.

Pour comprendre le phénomène, il faut revenir au principe des vers informatiques, ces logiciels malveillants capables de se copier automatiquement d’un ordinateur à un autre. Traditionnellement, ces programmes suivent des instructions relativement précises pour exploiter des vulnérabilités connues. L’intelligence artificielle pourrait changer cette approche. Plutôt que de dépendre uniquement d’un scénario programmé à l’avance, un agent intelligent pourrait analyser un nouvel environnement, déterminer comment y fonctionner, résoudre certains problèmes techniques et poursuivre sa propagation. Les chercheurs parlent de réplication et d’adaptation autonomes. Dans ce scénario, le modèle pourrait transporter avec lui les données nécessaires à son fonctionnement, appelées ses poids, ou les récupérer depuis un serveur accessible sur Internet. Chaque nouvel appareil compromis pourrait alors contribuer à faire fonctionner et à propager le système.

Pour vérifier la faisabilité technique de cette idée, les chercheurs d’Anthropic ont réalisé une expérience plutôt étonnante. Ils ont acheté 15 petits boîtiers Android TV de marques peu connues, vendus environ 55 dollars américains chacun, puis les ont reliés en réseau. Ces appareils, normalement destinés à transformer un téléviseur ordinaire en téléviseur connecté, disposent de très peu de mémoire et d’une puissance de calcul limitée. Pourtant, les chercheurs ont réussi à y faire fonctionner collectivement Gemma4-26B-A4B, un modèle d’intelligence artificielle de 26 milliards de paramètres. Chaque boîtier exécutait une petite partie du modèle, les différents appareils collaborant pour produire les réponses. Le résultat était extrêmement lent, environ 0,39 jeton de texte par seconde, mais l’expérience démontre qu’une intelligence artificielle relativement sophistiquée n’a pas nécessairement besoin d’un puissant serveur pour fonctionner. Une multitude de petits appareils peuvent, ensemble, lui fournir les ressources nécessaires.

Les chercheurs ont ensuite voulu déterminer si une intelligence artificielle pouvait elle-même préparer un appareil inconnu pour y exécuter un modèle. Cette opération exige de reconnaître le matériel, d’installer les bons logiciels, de sélectionner les versions compatibles et de résoudre les erreurs rencontrées. Dans leurs essais, un modèle de seulement neuf milliards de paramètres a réussi à mettre en place un environnement d’exécution sur huit des neuf catégories de matériel testées. Une autre expérience, menée dans un réseau fermé de huit machines virtuelles Android, a permis au modèle GLM-5.2 d’orchestrer une réplication complète dans un environnement simplifié. Dans quatre essais sur cinq, il a atteint les huit machines du réseau. Toutefois, cette démonstration comportait des limites importantes : les accès n’étaient pas protégés par authentification, le modèle chargé de diriger les opérations fonctionnait sur un serveur distinct et le logiciel propagé était un autre modèle. Anthropic n’a donc pas démontré l’existence d’une intelligence artificielle malveillante capable de se reproduire entièrement par ses propres moyens dans la nature.

C’est néanmoins la vitesse des progrès qui préoccupe les chercheurs. Selon leur analyse de l’évolution des petits modèles, les capacités nécessaires pour assurer cette réplication pourraient être réunies dans un modèle suffisamment compact d’ici la fin de 2026. Il s’agit d’une projection fondée sur les tendances observées, et non d’une certitude. Une fois cette étape franchie, un programme pourrait théoriquement s’installer sur des appareils vulnérables, apprendre à utiliser leurs ressources et chercher de nouvelles machines à rejoindre. Sa propagation ne serait pas forcément spectaculaire. Les chercheurs estiment que certaines opérations pourraient demander entre un et plusieurs jours sur des équipements modestes. Mais cette lenteur pourrait être compensée par la quantité considérable d’appareils connectés déjà présents dans les maisons et les entreprises. Contrairement à un système centralisé que l’on peut arrêter en coupant l’accès à ses serveurs, une intelligence artificielle distribuée entre des milliers de machines poserait un problème beaucoup plus complexe.

L’autre découverte intéressante concerne la capacité d’apprentissage d’une génération à l’autre. Dans une série d’expériences, les chercheurs ont permis à des copies successives d’un agent de conserver les notes et les solutions élaborées par leurs prédécesseurs. Les nouvelles instances pouvaient ainsi éviter certaines erreurs et réutiliser les méthodes qui avaient fonctionné. Le taux de réussite d’une tâche d’installation est passé de 45 % lors de la première génération à des résultats oscillant entre 61 % et 84 % lors des générations suivantes. Cette adaptation ne signifie pas que le modèle modifiait spontanément ses paramètres internes, mais plutôt qu’il transmettait une expérience accumulée sous forme d’instructions et de connaissances pratiques. Pour les spécialistes de la sécurité, cette distinction est importante : même sans apprendre au sens traditionnel de l’entraînement d’un modèle, un agent pourrait devenir progressivement plus efficace dans un environnement qu’il rencontre régulièrement.

Face à cette possibilité, Anthropic insiste sur la nécessité de renforcer dès maintenant la sécurité des objets connectés. Les fabricants peuvent notamment éliminer les mots de passe par défaut et mieux protéger les interfaces d’administration, tandis que les fournisseurs Internet pourraient surveiller les échanges inhabituels entre appareils pour détecter une activité suspecte. La taille des modèles et les communications nécessaires à leur fonctionnement distribué pourraient d’ailleurs rendre ces systèmes plus visibles que certains logiciels malveillants traditionnels. Il ne faut donc pas conclure que nos téléviseurs ou nos réfrigérateurs sont sur le point de développer une volonté propre. Les expériences montrent plutôt qu’une technologie conçue pour résoudre des problèmes complexes pourrait également être utilisée pour automatiser des cyberattaques à une échelle nouvelle. La véritable question n’est plus seulement de savoir jusqu’où progressera l’intelligence artificielle, mais comment nous protégerons les millions de petits ordinateurs qui nous entourent lorsqu’elle sera capable d’y fonctionner et de s’y reproduire de manière autonome.

Source : Anthropic

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.