Les plateformes sociales peinent à maintenir un environnement sain en ligne, et les utilisateurs s’en méfient de plus en plus. Selon un sondage du Cato Institute, à peine un quart d’entre eux croient que les règles de modération sont appliquées équitablement. Devant ce constat, certains chercheurs misent désormais sur l’intelligence artificielle générative pour offrir une solution personnalisée : laisser chaque usager filtrer lui-même ce qu’il souhaite voir… ou pas.

C’est l’approche explorée par les chercheurs Syed Mahbubul Huq et Basem Suleiman, qui ont conçu un filtre pour YouTube à l’aide de robots conversationnels comme GPT-4 et Claude 3.5. Ces modèles ont analysé les sous-titres de près de 4 100 vidéos réparties dans dix genres populaires — dessins animés, téléréalité, etc. Résultat : les deux modèles les plus performants ont repéré, dans plus de 80 % des cas, les contenus problématiques identifiés par des vérificateurs humains.

La démonstration est prometteuse, même si elle reste limitée au langage et non aux images, et coûteuse à grande échelle. Mais elle ouvre la porte à une modération sur mesure. Un parent pourrait bientôt décider qu’un contenu sexuellement explicite est acceptable, tant qu’il n’est pas question de drogues ou de violence. Pour Huq, avec la baisse continue des coûts d’accès à l’IA, ce scénario pourrait devenir réalité plus vite qu’on le pense.

Pour Maarten Sap, de Carnegie Mellon, les modèles existants manquent encore de finesse. Ils ont du mal, par exemple, à distinguer une plaisanterie entre amis d’une attaque personnelle. Il croit toutefois que des modèles spécialisés peuvent offrir une modération plus nuancée et adaptée aux sensibilités sociales.

Mais cette promesse soulève de sérieuses inquiétudes. Zeerak Talat, de l’Université d’Édimbourg, rappelle que si chacun peut personnaliser son expérience, certains pourraient aussi s’exposer davantage à des propos haineux. Et surtout, rien n’empêcherait ces propos de circuler librement ailleurs sur la plateforme. Pour certains experts, cette délégation de la responsabilité aux usagers permettrait surtout aux géants du numérique de se dégager de leur devoir de protéger les communautés en ligne.

Si l’intelligence artificielle permet une meilleure personnalisation, elle ne garantit pas pour autant un internet plus sûr. Car filtrer ce qu’on voit ne revient pas à empêcher que cela soit dit, ni à protéger ceux qui en sont les cibles.

Source : Wall Street Journal

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.