Quand l’IA de Meta bannit des comptes par erreur

Meta confie une part croissante de la modération de Facebook et d’Instagram à l’intelligence artificielle. Mais pour plusieurs utilisateurs, cette automatisation se transforme en véritable parcours du combattant lorsque la technologie supprime un compte par erreur et laisse ensuite une autre IA gérer la contestation.

Camille et Calvin Hanson dirigent depuis le Portugal une entreprise d’enseignement de l’anglais suivie par près d’un million de personnes. En mars dernier, leurs comptes Facebook et Instagram ont soudainement été accusés de fraude et de tromperie. Après avoir fait appel, ils ont reçu une réponse définitive leur annonçant que leurs données seraient supprimées et qu’aucune nouvelle révision ne serait possible.

Le couple affirme n’avoir jamais compris ce qui avait déclenché la sanction. Pour eux, la disparition de leurs comptes revenait à voir un commerce fermer ses portes du jour au lendemain, sans pouvoir parler à un responsable ni obtenir d’explications précises.

Cette situation illustre les risques liés à l’automatisation de la modération des plateformes sociales. Meta utilise déjà des systèmes d’intelligence artificielle pour détecter les infractions, supprimer des contenus et suspendre des comptes. Ces mêmes technologies participent aussi au traitement des appels, ce qui peut laisser les utilisateurs pris dans une chaîne de décisions automatisées.

En mars, Meta avait annoncé vouloir accorder davantage de responsabilités à ses systèmes d’IA pour repérer les comptes problématiques et les contenus nuisibles. Quelques mois plus tard, l’entreprise a procédé à des milliers de suppressions de postes, notamment dans des équipes chargées de certaines fonctions de modération.

Cette évolution alimente une contestation croissante. Plus de 60 000 personnes ont signé une pétition demandant à Meta d’expliquer plus clairement ses décisions et de permettre une véritable révision humaine des appels. Des communautés en ligne consacrées aux suspensions de comptes témoignent également d’un grand nombre de sanctions jugées incompréhensibles.

Meta affirme toutefois que ses nouveaux outils automatisés commettent 13 % moins d’erreurs que les employés humains et détectent 10 % plus d’infractions. L’entreprise soutient que l’intelligence artificielle améliore à la fois la protection des comptes et l’application de ses règles.

Plusieurs cas examinés par le New York Times montrent néanmoins les limites du système. Athenia Rodney, propriétaire de l’organisation JuneteenthNY, avait vu six comptes personnels et professionnels disparaître après des connexions suspectes provenant de Seattle et de Singapour. Elle soupçonnait un piratage, mais ses démarches auprès de Meta et de différents organismes publics étaient restées sans réponse.

La perte de ces comptes avait aussi des conséquences commerciales. JuneteenthNY utilisait notamment ses réseaux sociaux pour démontrer sa crédibilité auprès de commanditaires. Sans son historique de publications et sans sa communauté, l’organisation devait convaincre ses partenaires qu’elle existait depuis près de 20 ans.

Après avoir été contactée par le New York Times, Meta a réexaminé cinq dossiers. L’entreprise a conclu que deux comptes avaient été compromis par des pirates, qu’un autre avait été suspendu pour une raison jugée légitime et que deux comptes avaient été bannis par erreur. Les comptes de JuneteenthNY et des Hanson ont finalement été rétablis.

Le cas de l’influenceur Roberto Suarez montre toutefois que la restauration d’un compte ne règle pas toujours le problème. Après avoir récupéré son profil Instagram et ses 500 000 abonnés, il a été suspendu de nouveau quelques semaines plus tard pour une prétendue violation du droit d’auteur. Son compte a été restauré une seconde fois après l’intervention du quotidien américain.

Pour les entreprises, les organismes et les créateurs qui dépendent des plateformes sociales, ces erreurs peuvent entraîner une perte immédiate de revenus, de visibilité et de crédibilité. Elles soulèvent aussi une question centrale : qui peut réellement corriger une décision lorsqu’une intelligence artificielle contrôle à la fois la sanction et le processus d’appel?

Meta promet de réduire le nombre d’erreurs. Mais tant que les utilisateurs ne pourront pas joindre facilement une personne capable d’examiner leur dossier, l’automatisation de la modération continuera de présenter un risque important pour ceux dont l’activité repose sur Facebook et Instagram.

Source : New York Times

+++++++