Les biais des outils d’intelligence artificielle ne se limitent plus à l’anglais. C’est ce que souligne Margaret Mitchell, chercheuse en éthique de l’IA chez Hugging Face, qui participe au projet SHADES : un nouveau jeu de données conçu pour évaluer les biais dans plusieurs langues, avec de vraies traductions humaines, ancrées dans les réalités culturelles.

L’objectif est de révéler comment des stéréotypes culturels peuvent être généralisés — voire amplifiés — lorsqu’ils sont traduits et appliqués à d’autres contextes. Selon Mitchell, les systèmes d’IA générative peuvent transmettre des clichés issus d’une culture dominante vers d’autres langues, voire en inventer de nouveaux. Exemple : des modèles ont associé faussement certains stéréotypes à des publications scientifiques inexistantes, légitimant des discours pseudo-scientifiques.

L’un des défis majeurs du projet SHADES repose sur la complexité linguistique. Les évaluations de biais sont souvent pensées en anglais, où la grammaire est relativement simple à manipuler. Mais dans d’autres langues, les ajustements grammaticaux liés au genre, au nombre ou à la structure syntaxique rendent les comparaisons plus délicates. Pour y répondre, les chercheurs ont mis au point une approche novatrice fondée sur des gabarits sensibles à la syntaxe de chaque langue.

Cette initiative s’inscrit dans une logique d’open science, née du projet BigScience et du développement du modèle de langage BLOOM. Pour Mitchell, le problème des biais dans l’IA est souvent sous-estimé dans l’industrie technologique, où des solutions superficielles sont parfois préférées à une réelle introspection sur les biais systémiques.

Alors que les modèles d’IA sont de plus en plus utilisés à l’échelle mondiale, y compris dans des régions où les normes sociales et culturelles diffèrent, le risque est grand de diffuser, consciemment ou non, des représentations déformées. SHADES vient donc rappeler une réalité trop souvent oubliée : pour qu’une intelligence artificielle soit réellement équitable, elle doit aussi être multilingue, multiculturelle… et profondément critique de ses propres angles morts.

Source : Wired

++++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.