Les grandes plateformes misent de plus en plus sur l’IA pour modérer leurs contenus, au détriment des équipes humaines. Une évolution qui, selon plusieurs témoignages, se traduit par une multiplication des erreurs et des risques pour les utilisateurs.

Kevin, pseudonyme d’un modérateur travaillant pour TikTok en Afrique subsaharienne, décrit un quotidien éprouvant où il doit trier les pires contenus : abus, violences, accidents mortels. Depuis un an, il est assisté d’un logiciel d’IA censé faciliter son travail, mais qu’il juge inefficace dans près de 70 % des cas. L’outil confond des signaux évidents, ignore le contexte culturel et multiplie les faux positifs, ce qui surcharge les modérateurs restants plutôt que de les soulager.

Selon 13 modérateurs interrogés par Bloomberg, l’IA est déployée plus vite qu’elle n’apprend. Les erreurs concernent autant la détection d’images choquantes que la compréhension de propos codés, souvent utilisés par des prédateurs pour contourner les règles. « Si on réduit les équipes humaines au profit de l’IA, la sécurité en ligne va s’effondrer », avertit Lloyd Richardson, directeur du Centre canadien de protection de l’enfance.

Meta, TikTok, Roblox et X sont parmi les entreprises qui vantent les mérites de l’automatisation, évoquant à la fois le coût exorbitant du travail humain et la détresse psychologique qu’il entraîne. Pourtant, leurs systèmes sont déjà mis en cause dans des procès liés à la protection des mineurs et à la diffusion de contenus extrêmes. Les coupes d’effectifs se multiplient, comme chez TikTok au Royaume-Uni ou en Asie, tandis que des employés en Allemagne menacent de grève.

Certains experts estiment que l’IA peut apporter un soutien précieux, par exemple en priorisant les signalements les plus graves ou en atténuant visuellement les images choquantes pour protéger la santé mentale des modérateurs. Mais aucun spécialiste ne croit possible de remplacer complètement l’humain, dont la compréhension du contexte et des subtilités culturelles reste indispensable.

Au-delà de la question technologique, l’enjeu est aussi juridique et politique. Les régulateurs, notamment en Europe avec le Digital Services Act, exigent des plateformes qu’elles garantissent un haut niveau de protection pour leurs utilisateurs, en particulier les plus jeunes. Or, si l’IA échoue à détecter certaines menaces, ce sont les entreprises elles-mêmes qui pourraient être tenues responsables et subir d’importantes sanctions financières.

Enfin, la dimension sociale ne doit pas être négligée. La disparition progressive de milliers d’emplois de modération soulève la question du sort réservé à ces travailleurs, souvent employés dans des conditions précaires dans les pays du Sud. Alors que ces emplois, bien que difficiles, représentaient une source de revenus stable, leur remplacement par des machines laisse présager une nouvelle fracture entre les promesses d’efficacité de l’IA et la réalité vécue par les individus qui en subissent les conséquences.

Source : Bloomberg

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.