TikTok se retrouve au cœur d’une nouvelle controverse aux États-Unis. Une plainte judiciaire rendue publique hier par la procureure générale de l’État de New York, Letitia James, accuse la plateforme d’avoir volontairement fourni à des milliers d’utilisateurs, dont des enfants et des adolescents, de fausses fonctionnalités de sécurité. Ces personnes croyaient avoir activé des outils pour se protéger de contenus potentiellement dangereux, alors qu’en réalité, ces protections ne fonctionnaient pas. Les révélations, rapportées par Reuters, reposent sur des documents internes cités dans la procédure judiciaire.

Au centre des accusations figure une fonctionnalité appelée « Algo Refresh », introduite en 2023 pour permettre aux utilisateurs de réinitialiser les recommandations de leur fil « Pour toi ». L’outil est notamment destiné aux personnes qui souhaitent échapper à des vidéos répétitives, dérangeantes ou susceptibles de nuire à leur bien-être. Mais selon la poursuite, TikTok aurait mené des expériences dites « fantômes » ou « placebo », dans lesquelles certains utilisateurs obtenaient une version inactive de cette fonction. L’interface leur laissait croire que leur fil avait été réinitialisé, alors que l’algorithme continuait de leur recommander les mêmes contenus.

Ces expériences auraient été réalisées à plusieurs reprises en 2023 auprès de milliers d’utilisateurs. L’objectif allégué n’était pas simplement de vérifier le fonctionnement technique de la fonctionnalité, mais aussi de mesurer ses conséquences sur le temps passé dans l’application et sur les revenus publicitaires. Autrement dit, TikTok aurait comparé le comportement des personnes bénéficiant d’une véritable réinitialisation avec celui d’utilisateurs qui pensaient avoir repris le contrôle de leurs recommandations, sans que rien ait changé. Cette dimension commerciale soulève des questions importantes sur la place accordée à la sécurité dans les décisions de l’entreprise.

Plus troublant encore, un responsable des produits liés au bien-être numérique chez TikTok aurait lui-même contesté cette méthode dans une discussion interne. Selon les documents judiciaires, cet employé considérait qu’utiliser un groupe placebo allait directement à l’encontre de l’objectif de transparence et de contrôle promis aux utilisateurs. Malgré cet avertissement, les essais auraient été poursuivis. La poursuite accuse également TikTok d’avoir exagéré la portée réelle d’Algo Refresh, en présentant comme une réinitialisation de l’algorithme ce qui ne serait, selon elle, qu’une modification temporaire des recommandations.

D’autres accusations concernent des expériences distinctes au cours desquelles TikTok aurait désactivé certaines protections limitant l’exposition à des contenus préjudiciables. Selon des informations initialement révélées par Bloomberg et reprises dans la plainte, un adolescent de New York ayant participé à l’une de ces expériences est décédé par suicide après avoir été exposé à de nombreuses vidéos concernant l’automutilation et le suicide. Des examens internes auraient confirmé cette exposition répétée. Ces révélations sont particulièrement graves, même si elles ne permettent pas, à elles seules, d’établir un lien de causalité entre l’expérience menée par TikTok et le décès de l’adolescent.

TikTok conteste les accusations. Dans une déclaration transmise à Reuters, un porte-parole explique que l’entreprise, comme beaucoup d’autres plateformes numériques, procède régulièrement à des essais pour améliorer ses produits et comprendre leur fonctionnement dans des conditions réelles. TikTok affirme également que les accusations déforment le fonctionnement d’Algo Refresh et maintient que la protection des jeunes utilisateurs constitue une priorité. L’entreprise a rejeté de manière générale les allégations formulées par l’État de New York. À ce stade, les faits reprochés demeurent des allégations judiciaires et non des conclusions établies par un tribunal.

Cette affaire s’inscrit dans une offensive judiciaire beaucoup plus large contre TikTok aux États-Unis. Plus de deux douzaines d’États ont engagé des poursuites contre la plateforme, notamment en l’accusant d’avoir conçu des mécanismes favorisant une utilisation compulsive chez les mineurs. Le 25 septembre, TikTok a d’ailleurs conclu une entente avec l’Alabama prévoyant le versement d’au moins 100 millions de dollars américains, un montant pouvant atteindre 300 millions selon certaines conditions. La plateforme s’est également engagée à renforcer les contrôles d’âge et à limiter davantage l’utilisation de son service par les adolescents de cet État. Au-delà des poursuites, le dossier new-yorkais pose une question fondamentale : peut-on faire confiance aux mécanismes de protection proposés par une plateforme lorsque celle-ci peut en désactiver le fonctionnement à l’insu des utilisateurs ?

Sources : Reuters, plainte

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.