
Le réseau social X affirme avoir renforcé les garde-fous de son assistant d’intelligence artificielle Grok afin d’empêcher la modification d’images de personnes réelles en tenues révélatrices. Cette annonce intervient après plusieurs enquêtes ouvertes en Europe, en Asie et aux États-Unis, à la suite de la diffusion massive de montages hyperréalistes non consentis.
Dans un message publié mercredi aux États-Unis, X indique avoir mis en place des mesures techniques interdisant à Grok d’éditer des images de personnes réelles portant des vêtements comme des bikinis. La plateforme assure que ces restrictions s’appliquent à tous les utilisateurs, y compris les abonnés payants, tout en précisant que certaines limitations de génération d’images reposent encore sur un blocage géographique lié aux lois locales.
Ces annonces ont été accueillies avec prudence par les autorités européennes. La Commission européenne a indiqué, par la voix de son porte-parole Thomas Regnier, qu’elle évaluerait l’efficacité réelle de ces changements et qu’elle se réservait le droit d’utiliser l’ensemble de son arsenal législatif en cas de manquement, y compris des sanctions financières ou une suspension du service dans l’Union européenne.
Au Royaume-Uni, le premier ministre Keir Starmer a confirmé que X s’était engagé à se conformer à la législation britannique, tout en rappelant qu’une enquête formelle restait en cours. En Asie, les réactions sont plus fermes. La Malaisie a estimé que les mesures annoncées n’étaient pas pleinement appliquées, tandis que les Philippines ont annoncé la suspension de l’accès à Grok en raison de contenus jugés indécents.
Le scandale a été amplifié par une analyse de l’ONG AI Forensics, publiée la semaine dernière. L’organisation indique avoir étudié plus de 20 000 images générées par Grok, dont plus de la moitié représentaient des personnes légèrement vêtues. Selon ses données, 81 pour cent de ces images concernaient des femmes et environ 2 pour cent semblaient représenter des personnes mineures.
Aux États-Unis, le procureur général de Californie, Rob Bonta, a annoncé l’ouverture d’une enquête afin de déterminer si xAI, la société qui développe Grok, a enfreint la loi en permettant la création et la diffusion d’images sexuelles non consenties. Il affirme défendre une politique de tolérance zéro à l’égard de tout contenu assimilable à de l’exploitation sexuelle.
Elon Musk, propriétaire de X et fondateur de xAI, soutient pour sa part que Grok respecte les lois de chaque pays et que les dérives observées relèvent d’abus ou de tentatives de détournement du système par des utilisateurs. Il assure que les bogues sont corrigés dès qu’ils sont identifiés et dénonce ce qu’il considère comme une volonté excessive de régulation de la part des gouvernements.
Malgré ces engagements, plusieurs ONG, dont l’association féministe Ultraviolet, appellent toujours Google et Apple à retirer Grok et X de leurs boutiques d’applications. Pour les autorités comme pour les chercheurs, la question centrale demeure celle de l’application concrète et vérifiable des promesses faites par la plateforme.
******
Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.
Ou encore…
Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.
En savoir plus sur Mon Carnet
Subscribe to get the latest posts sent to your email.

