Meta veut faciliter l’identification des images créées ou modifiées avec ses nouveaux modèles d’intelligence artificielle. L’entreprise a présenté un outil Web capable de détecter les filigranes invisibles intégrés aux contenus produits avec Muse Image, son nouveau modèle de génération d’images.

Ce système, baptisé Content Seal, est conçu pour survivre à plusieurs manipulations courantes. Selon Meta, le filigrane demeure présent même lorsqu’une image est recadrée, compressée, redimensionnée ou capturée par une copie d’écran. L’objectif est de permettre à un utilisateur de vérifier si une image porte la trace d’une création ou d’une modification réalisée avec Meta AI.

Contrairement à certains outils précédents de Meta, Muse Image n’ajoute pas de logo visible dans le coin de l’image. Le marquage se fait plutôt de façon invisible. Meta a déjà publié des versions ouvertes de certaines technologies liées au filigranage, mais la version utilisée ici avec Muse Image est propriétaire, selon les précisions fournies à Engadget.

Pour l’instant, la détection est limitée aux images créées ou modifiées avec Muse Image. Meta affirme toutefois vouloir étendre Content Seal aux vidéos générées ou modifiées par IA. L’entreprise prépare aussi Muse Video, un modèle de génération vidéo qui doit arriver prochainement.

Lors d’un essai réalisé par Engadget, l’outil Web a correctement détecté des images entièrement générées par Meta AI, ainsi que des images modifiées avec l’outil. Il a aussi reconnu le filigrane dans des captures d’écran de ces images. Meta précise qu’un résultat positif signifie que l’image a été générée ou modifiée avec l’application Meta AI ou le site meta.ai. Un résultat négatif signifie plutôt qu’il est peu probable que l’image ait été traitée par ces outils.

La fonction demeure toutefois imparfaite. Elle ne semble pas encore intégrée à l’application Meta AI elle-même. Lorsqu’Engadget a interrogé l’assistant de Meta au sujet d’une image que l’outil Web avait pourtant reconnue comme générée par IA, l’assistant a répondu qu’il ne pouvait pas confirmer l’origine de l’image.

Autre limite importante : Content Seal n’est pas compatible avec SynthID de Google ni avec les Content Credentials du standard C2PA, deux approches déjà utilisées ailleurs dans l’industrie. L’outil de Meta n’a pas non plus permis d’identifier des images créées avec d’anciennes versions de ses modèles. Engadget rapporte également que la fonction impose une limite quotidienne au nombre de vérifications, sans que la raison soit clairement expliquée.

Cette annonce arrive dans un contexte délicat pour Meta. L’entreprise a déjà été critiquée pour sa façon d’identifier les contenus générés par IA sur ses plateformes. Plus tôt cette année, son propre Oversight Board s’était dit préoccupé par une application jugée incohérente des filigranes numériques sur les contenus créés avec les outils de Meta.

Avec Content Seal, Meta tente donc de renforcer la traçabilité des contenus générés par ses propres modèles. Mais l’outil reste, pour l’instant, limité à son écosystème et ne règle pas le problème plus large de l’identification des images produites par d’autres systèmes d’intelligence artificielle.

Source : Engadget

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.