Meta a autorisé la diffusion de dizaines de publicités contenant des images pédocriminelles générées par intelligence artificielle sur Facebook, Instagram, Messenger et Threads. Selon une enquête de WIRED fondée sur les travaux du Tech Transparency Project, plus de 50 publicités problématiques ont été recensées dans la bibliothèque publicitaire du groupe. Certaines étaient encore actives au début du mois d’août.

Les annonces auraient été diffusées au cours des neuf derniers mois aux États-Unis, au Royaume-Uni et dans plusieurs pays européens. Certaines associaient des images de mineurs à des messages sexualisés, tandis que d’autres redirigeaient les internautes vers des applications permettant de déshabiller artificiellement une personne ou de produire des images pornographiques par IA.

Le Tech Transparency Project affirme que ces publicités ne tentaient pas réellement de dissimuler leur contenu. L’organisme insiste surtout sur le fait qu’il ne s’agissait pas de simples publications d’utilisateurs, mais bien de publicités payantes qui avaient été soumises aux systèmes de vérification de Meta avant leur diffusion.

La portée exacte de ces campagnes demeure difficile à établir. Certaines annonces n’auraient rejoint que quelques comptes, mais l’une d’elles aurait été montrée à plus de 2 500 personnes en Europe. Les données de la bibliothèque publicitaire de Meta ne permettent toutefois pas de connaître l’audience complète aux États-Unis et dans plusieurs autres territoires.

Après avoir été contactée par WIRED, Meta a retiré les publicités concernées. L’entreprise affirme lutter activement contre l’exploitation sexuelle des enfants et soutient que plusieurs annonces avaient eu une portée limitée ou avaient été désactivées avant la publication de l’enquête. Meta précise également avoir déployé récemment de nouveaux outils d’intelligence artificielle pour mieux détecter les contenus interdits au moment de leur téléversement.

Ces mécanismes n’ont toutefois pas empêché l’apparition de nouvelles annonces problématiques. Selon les chercheurs, une trentaine de publicités supplémentaires ont été découvertes peu avant la publication de l’enquête, dont plusieurs avaient été mises en ligne après les premières questions adressées à Meta.

Les politiques de Meta interdisent pourtant clairement les contenus liés à l’exploitation sexuelle des enfants, la nudité et les activités sexuellement suggestives. L’entreprise indique que ses publicités sont principalement analysées par des outils automatisés avant leur mise en ligne. Les annonces repérées ont depuis été marquées comme ayant enfreint les règles sur l’exploitation sexuelle, les abus et la nudité.

L’affaire relance les questions sur l’efficacité des contrôles publicitaires automatisés. Le Tech Transparency Project affirme avoir observé des annonces identiques à d’autres contenus que Meta avait déjà retirés, ce qui laisse croire que des campagnes précédemment détectées peuvent être publiées de nouveau sans être immédiatement bloquées.

Plusieurs annonces étaient associées à des comptes peu suivis ou à des entreprises chinoises. Certaines redirigeaient vers MaskAI, une application disponible dans l’App Store d’Apple qui permettait notamment de placer artificiellement des visages dans des scènes sexuelles. Apple a retiré l’application après avoir été contactée par WIRED.

La multiplication des outils de déshabillage par IA complique considérablement le travail de modération. Un ancien spécialiste de la sécurité chez Google affirme avoir signalé plus de 25 000 publicités faisant la promotion de ces services sur les plateformes de Meta au cours des dernières années. Meta dit pour sa part avoir supprimé plus de 344 000 publicités du même type et engagé des poursuites contre certains développeurs.

Au-delà de la responsabilité des annonceurs, cette enquête met en lumière une faille majeure dans le modèle publicitaire de Meta. Des contenus interdits peuvent encore franchir les systèmes automatisés, être diffusés contre paiement et rester accessibles pendant plusieurs jours, malgré des règles qui les prohibent sans ambiguïté.

Source : Wired

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.