Un piratage informatique met en lumière les coulisses d’une opération massive d’influence artificielle sur TikTok, orchestrée par Doublespeed, une jeune pousse soutenue par le fonds Andreessen Horowitz. Selon une enquête publiée dans 404 Media, un pirate affirme avoir pris le contrôle de l’infrastructure technique de l’entreprise, incluant une ferme d’environ 1 100 téléphones intelligents utilisés pour gérer des centaines de comptes TikTok générés par intelligence artificielle.

Doublespeed se présente comme une plateforme capable de promouvoir des produits à grande échelle sur les réseaux sociaux en s’appuyant sur des personnages fictifs créés par IA. Pour contourner les mécanismes de détection des comportements inauthentiques, l’entreprise exploite une « phone farm », un ensemble de téléphones réels pilotés à distance, une technique déjà bien connue dans les réseaux de faux avis et de clics automatisés. Le piratage aurait donné accès aux appareils, aux comptes TikTok associés, aux serveurs de gestion, aux proxys utilisés ainsi qu’aux tâches programmées.

Le pirate, qui a requis l’anonymat par crainte de représailles, affirme avoir signalé la faille de sécurité à Doublespeed dès le 31 octobre. Plus de six semaines plus tard, il soutient disposer toujours d’un accès complet au système. Doublespeed n’a pas répondu aux demandes de commentaires de 404 Media.

Les données partagées avec le média révèlent l’existence de plus de 400 comptes TikTok opérés par Doublespeed, dont environ 200 servaient activement à promouvoir des produits, souvent sans mention claire qu’il s’agissait de contenus publicitaires. Parmi les produits mis de l’avant figurent des applications d’apprentissage des langues, des applications de rencontres, une application biblique, des suppléments alimentaires et des appareils de massage. Certains comptes semblent avoir été « réchauffés », une pratique visant à leur donner une apparence authentique avant toute activité commerciale.

L’enquête cite notamment un compte mettant en scène une femme d’âge moyen générée par IA, évoquant divers problèmes de santé avant de recommander systématiquement un appareil de massage d’une marque appelée Vibit. Un autre compte, prétendument tenu par une étudiante de UCLA, critique l’industrie pharmaceutique tout en faisant la promotion d’un supplément à base de moringa, avec des images où l’étiquette du produit est visiblement incohérente, un indice classique de génération artificielle. Aucune des entreprises citées n’a répondu aux sollicitations du média.

TikTok rappelle que ses règles exigent l’identification des contenus générés ou fortement modifiés par intelligence artificielle lorsqu’ils représentent des personnes ou des scènes réalistes. Après l’intervention de 404 Media, la plateforme a ajouté des mentions indiquant que certains comptes signalés diffusaient du contenu généré par IA.

Doublespeed a levé un million de dollars dans le cadre du programme Speedrun d’Andreessen Horowitz, destiné à accélérer la croissance de jeunes entreprises technologiques. Le fonds d’investissement n’a pas réagi aux révélations. L’entreprise affirme vouloir étendre ses services à Instagram, Reddit et X, bien que son activité documentée se limite pour l’instant à TikTok. En octobre, un porte-parole de Reddit indiquait déjà qu’un tel service contreviendrait aux conditions d’utilisation de la plateforme. Meta, maison mère d’Instagram, n’a pas commenté, même si ses politiques interdisent explicitement les fausses représentations d’identité.

Ce piratage relance le débat sur la frontière entre automatisation marketing, manipulation de l’opinion et responsabilité des plateformes face à la prolifération d’influenceurs artificiels, dans un contexte où les outils d’IA rendent ces opérations toujours plus accessibles et difficiles à détecter.

Source : 404 Media

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.