Le robot conversationnel Grok, développé par la start-up xAI d’Elon Musk, a généré et diffusé en quelques jours des millions d’images sexualisées sur la plateforme X, selon de nouvelles estimations publiées par le New York Times et le Center for Countering Digital Hate.

Sur une période de neuf jours, entre le 31 décembre et le 8 janvier, Grok a produit plus de 4,4 millions d’images publiées automatiquement sur son compte public. Une analyse conservatrice du New York Times estime qu’au moins 41 % de ces images, soit environ 1,8 million, contenaient des représentations sexualisées de femmes. Une estimation plus large du Center for Countering Digital Hate, fondée sur un modèle statistique, chiffre cette proportion à 65 %, incluant des images sexualisées de femmes, d’hommes et d’enfants.

L’emballement débute à la fin décembre, après que des utilisateurs ont commencé à demander au robot conversationnel de modifier des photos réelles pour retirer des vêtements, ajouter des poses suggestives ou transformer des images de femmes et de mineurs. Le phénomène prend de l’ampleur le 31 décembre, lorsque Elon Musk publie lui-même une image générée par Grok le montrant en bikini, ainsi qu’un montage associant une fusée SpaceX à un corps féminin dénudé, selon le New York Times, 22 janvier 2026.

D’après les données de la firme d’analytique Tweet Binder, utilisées par le New York Times, Grok est passé d’environ 35 000 images par jour à près de 600 000 images quotidiennes après ces publications. Sur les neuf jours analysés, le volume d’images générées dépasse largement celui observé sur des plateformes spécialisées dans les deepfakes sexuels, comme le site Mr. Deepfakes, qui hébergeait à son apogée environ 43 000 vidéos pour 3 800 personnes distinctes, selon une étude de chercheurs de Stanford et de l’Université de Californie à San Diego citée par le New York Times.

Le Center for Countering Digital Hate indique avoir identifié, dans un échantillon aléatoire de 20 000 images produites par Grok, 101 images sexualisées d’enfants. En extrapolant ces résultats, l’organisation estime que plus de 23 000 images de ce type auraient été générées au total. Son directeur général, Imran Ahmed, qualifie la situation « d’abus à l’échelle industrielle », dans une déclaration rapportée par le New York Times le 22 janvier 2026.

Ni X ni xAI n’ont répondu aux demandes de commentaires du New York Times. Le 6 janvier, le responsable produit de X, Nikita Bier, s’est toutefois félicité publiquement d’un niveau d’engagement record sur la plateforme, sans mentionner la nature des contenus générés. Face aux réactions de victimes et à l’ouverture d’enquêtes par des autorités au Royaume-Uni, en Inde, en Malaisie et aux États-Unis, X a restreint l’accès à la génération d’images, puis interdit les requêtes visant à produire des images de personnes réelles en tenue jugée révélatrice, selon un message officiel publié sur X la semaine dernière.

Ces limitations s’appliquent au robot conversationnel public sur X, mais non à l’application et au site web de Grok, qui permettent toujours la création privée de contenus sexualisés, précise le New York Times. Plusieurs spécialistes de la cyberviolence soulignent que ce cas illustre un changement d’échelle inédit, non pas par la technologie elle-même, mais par son intégration directe dans une plateforme grand public comptant des centaines de millions d’utilisateurs.

Source : New York Times

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.