Meta a retiré une nouvelle fonction d’intelligence artificielle qui permettait de créer des images truquées à partir des contenus publics d’utilisateurs d’Instagram. Lancée quelques jours plus tôt avec son outil Muse Image, la fonction a rapidement provoqué une levée de boucliers en raison de ses conséquences sur la vie privée et le droit à l’image.

Le système permettait aux utilisateurs de Meta AI de mentionner un compte Instagram public, puis d’utiliser les photos et les contenus publiés sur ce compte pour produire de nouvelles images générées ou modifiées par intelligence artificielle. Les personnes concernées n’avaient pas nécessairement donné leur autorisation et pouvaient même ignorer que leur apparence avait été reprise.

La principale source de mécontentement venait du fait que les comptes publics étaient automatiquement inclus dans le dispositif. Autrement dit, n’importe quelle personne disposant d’un profil public pouvait voir son visage, son corps ou ses publications utilisés pour créer des images artificielles sans consentement préalable.

Face à la controverse, Meta a reconnu avoir mal évalué la réaction du public et a confirmé que la fonction n’était plus disponible. L’entreprise affirme que son intention était de proposer un outil créatif tout en permettant aux utilisateurs de contrôler l’utilisation de leurs contenus publics. Elle reconnaît toutefois que les protections proposées n’ont pas répondu aux attentes.

Le syndicat américain des acteurs SAG-AFTRA a salué le retrait de la fonction, qu’il considère comme une victoire pour la protection de l’identité et de l’apparence des utilisateurs. L’organisation avait demandé à ses membres et à l’ensemble des utilisateurs d’Instagram de prendre des mesures pour empêcher l’exploitation non autorisée de leur image.

Privacy International a également critiqué l’initiative. L’organisme estime que cette affaire illustre une tendance des entreprises d’intelligence artificielle à considérer les photos et les données personnelles disponibles en ligne comme une matière première pouvant être librement exploitée.

Muse Image représentait une première étape importante de Meta dans la génération d’images par intelligence artificielle. L’entreprise avait indiqué que l’outil serait d’abord réservé à Instagram, avant une possible intégration de nouvelles fonctions dans WhatsApp, Facebook et Messenger. Meta travaille aussi au développement d’un outil de génération vidéo.

Ce retrait montre les difficultés auxquelles sont confrontées les plateformes lorsqu’elles tentent d’intégrer rapidement des outils d’intelligence artificielle à leurs services. Même lorsqu’un contenu est publié publiquement, les utilisateurs ne considèrent pas nécessairement qu’ils autorisent une entreprise ou d’autres internautes à réutiliser leur apparence pour fabriquer des images artificielles.

Source : BBC

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.