Meta se retrouve devant un sérieux avertissement sur les risques de confier le soutien technique à l’intelligence artificielle. Selon 404 Media, des pirates affirment avoir utilisé le robot de soutien de Meta AI pour prendre le contrôle de comptes Instagram très visibles, simplement en convainquant l’assistant automatisé de modifier l’adresse courriel associée aux comptes ciblés.

Les prises de contrôle rapportées auraient touché plusieurs profils importants, dont le compte Barack Obama White House, celui du Chief Master Sergeant of the Space Force et celui de Sephora. Des vidéos et captures d’écran auraient circulé dans des groupes Telegram fréquentés par des chercheurs en sécurité et des pirates, montrant comment l’assistant de soutien pouvait être manipulé pour relier un compte visé à une nouvelle adresse courriel.

Le problème est particulièrement sensible parce que Meta avait présenté son assistant de soutien IA comme un outil capable de résoudre directement certains problèmes de compte, et pas seulement de proposer des réponses. En mars, l’entreprise disait vouloir déployer cet outil à grande échelle sur Facebook et Instagram, notamment pour l’aide à la récupération de compte, à la sécurité et à la réinitialisation de mots de passe.

Selon The Verge, l’exploitation aurait surtout visé des comptes qui n’avaient pas activé l’authentification multifacteur. Des pirates auraient aussi utilisé des réseaux privés virtuels pour apparaître dans la même région que leurs cibles, ce qui aurait pu rendre leurs demandes plus crédibles aux yeux du système automatisé.

Meta affirme que le problème a été corrigé. Andy Stone, responsable des communications de l’entreprise, a indiqué que Meta travaillait à sécuriser les comptes touchés. Mais l’incident soulève une question plus large : jusqu’où peut-on laisser une IA gérer des fonctions critiques comme la récupération de compte, le changement d’adresse courriel ou la réinitialisation d’identifiants?

Le cas montre que le risque ne vient pas seulement de l’IA qui invente de mauvaises réponses. Il peut aussi venir de l’IA qui exécute une action réelle sans validation suffisante. Dans le service à la clientèle, cela transforme une erreur de conversation en faille opérationnelle. L’assistant ne se contente plus de donner un conseil, il devient une porte d’entrée vers les systèmes internes.

Pour les utilisateurs, la leçon demeure classique, mais importante : activer l’authentification multifacteur, protéger l’adresse courriel liée aux comptes sociaux et surveiller les alertes de connexion. Pour les plateformes, la leçon est plus profonde. Automatiser le soutien avec l’IA peut réduire les coûts et accélérer les réponses, mais lorsque l’outil touche à l’identité numérique, il faut des garde-fous beaucoup plus stricts.

Cette affaire arrive au moment où les grandes plateformes cherchent à remplacer une partie du soutien humain par des assistants automatisés. L’épisode rappelle que la sécurité d’un compte ne peut pas dépendre uniquement de la capacité d’un robot conversationnel à distinguer une demande légitime d’une manipulation. Dans ce cas, le problème n’était pas que l’IA parlait trop. C’est qu’elle pouvait agir.

Sources : 404 media, The Verge

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.