Apple renforce ses règles pour lutter contre la diffusion d’images intimes sans consentement, particulièrement celles fabriquées à l’aide de l’intelligence artificielle. Dans une mise à jour de ses directives publiée le 16 octobre, l’entreprise précise les obligations des développeurs et annonce des sanctions contre les applications qui permettent la création ou la circulation de tels contenus. Une intervention qui survient alors que les outils capables de produire de fausses images dénudées deviennent de plus en plus accessibles.

La modification concerne notamment les applications utilisant l’intelligence artificielle pour transformer des photographies de personnes réelles en images à caractère sexuel, sans leur autorisation. Ces outils, parfois appelés « nudify », permettent de fabriquer des images intimes entièrement artificielles, mais suffisamment réalistes pour porter atteinte à la réputation et à la vie privée des personnes représentées. Apple rappelle que les applications produisant ce type de contenu contreviennent déjà à ses règles interdisant la pornographie et les contenus sexuellement explicites.

La principale nouveauté se trouve dans la section 1.2 des directives de l’App Store. Apple exige désormais explicitement que les applications hébergeant des contenus produits par leurs utilisateurs prennent des mesures préventives contre les images intimes diffusées sans consentement, y compris celles générées par IA. Les développeurs doivent prévoir des mécanismes de modération, permettre le signalement des contenus problématiques et procéder à leur retrait. Une application qui ne met pas en place les protections nécessaires, ou qui refuse de corriger une violation signalée, risque d’être exclue de l’App Store.

Apple s’attaque également à une pratique utilisée par certains développeurs pour contourner son processus de vérification. Il s’agit de présenter une application aux évaluateurs avec des fonctionnalités apparemment inoffensives, puis d’activer des fonctions interdites une fois l’application approuvée. La nouvelle règle 2.5.19 interdit explicitement ces fonctionnalités cachées, dormantes ou non documentées. Les contrevenants s’exposent non seulement au retrait de leur application, mais aussi à leur exclusion du programme Apple Developer.

Ce durcissement intervient après plusieurs controverses entourant la présence d’applications de dénudification dans l’App Store. En janvier, une enquête du Tech Transparency Project avait identifié des dizaines d’applications de ce type distribuées par Apple. En juillet, les autorités de San Francisco avaient également demandé le retrait de huit applications permettant de produire des images intimes sans consentement. Les controverses entourant les images sexualisées produites avec Grok, l’intelligence artificielle de xAI, ont également contribué à attirer l’attention sur les responsabilités des grandes plateformes technologiques.

Apple précise aussi que les applications facilitant la traite de personnes ou l’exploitation sexuelle des enfants seront retirées de l’App Store et bloquées des autres modes de distribution qu’elle encadre. L’entreprise affirme avoir empêché plus de 150 000 applications présentant des problèmes de sécurité d’atteindre les utilisateurs en 2025. Elle indique également avoir fermé plus de 193 000 comptes de développeurs pour fraude ou abus. Ces chiffres témoignent de l’ampleur de son travail de surveillance, sans permettre de mesurer précisément l’efficacité de ses interventions contre les images intimes non consenties.

Reste maintenant la question de l’application réelle de ces règles. Les systèmes d’intelligence artificielle évoluent rapidement, tout comme les techniques employées pour contourner les mécanismes de contrôle. Apple tente de responsabiliser davantage les développeurs, mais la difficulté demeure de repérer des fonctionnalités dissimulées et des contenus problématiques avant qu’ils ne causent des dommages. Cette mise à jour rappelle surtout qu’à l’ère de l’IA générative, protéger le consentement et l’identité numérique exige bien davantage que la simple publication de nouvelles règles.

Sources : Apple, 9to5mac

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.