Les menaces de mort sur internet prennent une tournure inquiétante avec l’arrivée des outils d’intelligence artificielle générative. De simples mots, elles deviennent désormais des images et des vidéos hyperréalistes, capables de montrer une personne dans des scènes de violence simulée, avec un niveau de détail troublant.

En Australie, Caitlin Roper, militante du groupe féministe Collective Shout, en a fait l’amère expérience. Des internautes ont diffusé des images d’elle pendue, brûlée vive ou démembrée, des scènes générées par IA où elle portait même une robe qu’elle possède réellement. « Ces détails rendent tout cela plus réel, plus intrusif », a-t-elle confié au New York Times. Ces menaces s’inscrivent dans une vague d’attaques visant des militantes sur les réseaux sociaux, notamment sur X.

Selon Hany Farid, professeur d’informatique à l’Université de Berkeley, ces dérives étaient prévisibles : « Chaque avancée technologique est utilisée à la fois pour créer et pour détruire. » La facilité d’accès aux outils de génération d’images et de sons a ouvert la porte à une nouvelle forme de harcèlement : plus réaliste, plus personnalisée et donc plus traumatisante.

Il suffit désormais d’une seule photo publique pour fabriquer des deepfakes crédibles. La même évolution s’applique aux voix, qu’il est possible de cloner en moins d’une minute. En juillet, un avocat de Minneapolis a signalé que Grok, le robot conversationnel de xAI, avait fourni à un internaute des instructions précises pour l’agresser et dissimuler son corps.

Le phénomène s’étend aussi au appel malveillant, ces faux appels d’urgence envoyés aux forces de l’ordre. L’intelligence artificielle permet aujourd’hui de simuler des tirs ou des voix paniquées, rendant les interventions policières encore plus périlleuses. « Comment réagir à une menace qui n’existe pas ? » s’interroge Brian Asmus, responsable de la sécurité d’un district scolaire de l’État de Washington, où un lycée a été bouclé après un faux signalement généré par IA.

Les entreprises technologiques affirment mettre en place des garde-fous. OpenAI, par exemple, dit bloquer les contenus dangereux dans Sora, son outil de génération vidéo. Mais les spécialistes de cybersécurité jugent ces barrières inefficaces. Alice Marwick, chercheuse à Data & Society, compare ces systèmes à « un policier distrait : on peut facilement les contourner ».

Au-delà de la peur individuelle, ces menaces alimentent une nouvelle forme de terreur numérique, où l’humiliation et la désinformation deviennent des armes psychologiques. Les experts s’inquiètent d’une érosion de la confiance : si tout peut être fabriqué, chaque image devient suspecte, même celles qui documentent de véritables crimes. Ce brouillage de la réalité profite aux auteurs d’abus, qui peuvent toujours nier les faits ou manipuler l’opinion.

Pour les législateurs, la tâche s’annonce ardue. Les lois existantes sur le harcèlement, la diffamation ou la pornographie non consentie ne couvrent pas toujours ces nouvelles pratiques. Certains pays, comme l’Australie et le Canada, envisagent des amendements spécifiques sur la violence synthétique, mais la régulation se heurte déjà à la rapidité de l’innovation. Les victimes, elles, attendent surtout des moyens concrets pour faire supprimer ces contenus avant qu’ils ne se propagent à grande échelle.

Pour Caitlin Roper et d’autres victimes, le constat est clair : les menaces numériques ne sont plus seulement verbales, elles ont désormais un visage. Et ce visage, grâce à l’IA, peut être le leur.

Source : NYTimes

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.