En septembre 2021, au lendemain de révélations majeures sur les effets d’Instagram sur la santé mentale des adolescentes, Mark Zuckerberg s’interroge en interne sur l’opportunité de revoir la manière dont Meta étudie les impacts sociaux de ses plateformes. Un courriel jusque-là confidentiel, récemment rendu public dans le cadre d’une procédure judiciaire, éclaire les tensions persistantes entre recherche, transparence et exposition médiatique au sein du groupe.

Le message, daté du 15 septembre 2021 et adressé notamment à Sheryl Sandberg et à Nick Clegg, est envoyé un jour après la publication par le The Wall Street Journal d’une enquête fondée sur des documents internes. Ces documents, transmis par la lanceuse d’alerte Frances Haugen, montraient que les propres études de Meta concluaient que près d’un tiers des adolescentes interrogées se sentaient plus mal dans leur corps à cause d’Instagram.

Dans ce courriel, Zuckerberg note que la conduite proactive de recherches sur les dommages potentiels expose Meta à des critiques accrues, comparativement à d’autres acteurs du secteur. Il cite explicitement Apple, estimant que l’entreprise évite en grande partie les controverses en menant peu ou pas d’études internes sur ces sujets et en se tenant à distance du débat public. Selon lui, cette posture a eu pour effet de limiter la production de documents internes susceptibles d’être utilisés contre l’entreprise.

Zuckerberg avance également que Meta se retrouve davantage sous le feu des critiques parce qu’elle signale plus activement des contenus problématiques, notamment en matière d’exploitation sexuelle d’enfants. À ses yeux, cette transparence statistique peut donner l’impression erronée que ces comportements sont plus répandus sur ses plateformes que chez ses concurrents. Il rappelle toutefois qu’Apple a elle-même essuyé une vive opposition lorsqu’elle a tenté, la même année, de déployer des outils de détection de contenus pédopornographiques dans iCloud, avant de revenir partiellement sur son projet face aux critiques liées à la vie privée.

Les échanges internes montrent que cette réflexion ne se limite pas à Apple. Zuckerberg évoque aussi YouTube, X et Snap, qu’il décrit comme moins enclins à mener ou à rendre publiques des recherches approfondies sur les effets sociaux de leurs produits. Il suggère que certaines entreprises préfèrent rester sous le radar, soit par choix stratégique, soit par manque de ressources, même si plusieurs d’entre elles ont, depuis, lancé des initiatives publiques sur le bien-être numérique.

Face à cette situation, Zuckerberg exprime un sentiment d’injustice. Il estime que Meta devrait être reconnue pour ses efforts de recherche et d’amélioration, plutôt que d’être systématiquement critiquée pour ne pas aller assez loin. Il souligne que toutes les recommandations issues de ces travaux ne sont pas nécessairement applicables, les décisions de conception impliquant des arbitrages complexes.

Les réponses de plusieurs dirigeants montrent toutefois une volonté de poursuivre ces travaux, malgré les risques. Des cadres plaident pour maintenir la recherche interne, tout en en réduisant l’exposition, par exemple en se concentrant sur les domaines où un lien clair peut être établi entre l’usage des produits et les problèmes observés. D’autres insistent sur l’importance de ces analyses pour améliorer l’expérience utilisateur, indépendamment des objectifs sociétaux affichés.

Ces débats ont conduit à envisager plusieurs scénarios organisationnels, allant de la centralisation des équipes travaillant sur des sujets sensibles jusqu’à l’externalisation complète de certaines recherches. La solution retenue à l’époque a été une centralisation accrue, annoncée avant le témoignage du patron d’Instagram devant le Congrès, afin d’éviter toute perception de dissimulation.

La divulgation récente de ce courriel s’inscrit dans une procédure menée par le procureur général du Nouveau-Mexique, Raúl Torrez, qui accuse Meta d’avoir présenté ses plateformes comme sûres pour les adolescents tout en connaissant l’existence de choix de conception jugés nocifs. Le procès doit s’ouvrir prochainement et devrait mettre au jour d’autres échanges internes du même type.

Au-delà du cas Meta, ces documents relancent un débat plus large sur les incitations qui pèsent sur les grandes plateformes. Faut-il encourager la recherche interne au risque d’alimenter les controverses, ou créer un cadre réglementaire qui évite de pénaliser les entreprises les plus transparentes. La question reste ouverte, mais elle illustre un paradoxe central de l’économie numérique actuelle, celui où mieux mesurer les impacts peut aussi accroître la vulnérabilité publique et juridique.

Source : The Verge

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.