L’Union européenne ajoute ChatGPT, Reddit et Roblox à la liste des services numériques soumis aux exigences les plus strictes de son règlement sur les services numériques, mieux connu sous le nom de DSA. Cette décision accorde à la Commission européenne des pouvoirs de surveillance accrus sur leurs algorithmes, leurs mécanismes de sécurité et leur gestion des contenus illicites.

La Commission classe ChatGPT comme un « très grand moteur de recherche en ligne », tandis que Reddit et Roblox deviennent de « très grandes plateformes en ligne ». Cette distinction s’explique par la nature des services. ChatGPT permet notamment de rechercher et d’obtenir de l’information, alors que Reddit et Roblox donnent aux utilisateurs la possibilité de diffuser publiquement des contenus produits par des tiers.

Pour entrer dans ces catégories, un service doit rejoindre au moins 45 millions d’utilisateurs actifs par mois dans l’Union européenne. Selon les données publiées par la Commission, ChatGPT en compte 159,1 millions, contre 57,2 millions pour Reddit et 46,6 millions pour Roblox. Ce dernier dépasse donc le seuil de peu.

Les trois entreprises disposent maintenant de quatre mois, soit jusqu’en janvier 2027, pour respecter les obligations supplémentaires du DSA. Elles devront évaluer les risques systémiques associés à leurs services et démontrer les mesures prises pour les réduire.

Ces risques comprennent la diffusion de contenus illicites, les atteintes aux droits fondamentaux, les répercussions sur les processus électoraux et la sécurité publique ainsi que les conséquences possibles sur la santé physique et mentale des utilisateurs. La protection des mineurs occupe également une place centrale, particulièrement dans le cas de Roblox, dont une part importante du public est composée d’enfants et d’adolescents.

Pour ChatGPT, cette désignation représente une étape importante dans l’application du DSA aux services d’intelligence artificielle générative. OpenAI devra examiner comment ses systèmes de recherche, de recommandation et de génération de réponses pourraient amplifier des contenus illégaux ou causer des préjudices à grande échelle. L’entreprise devra aussi être en mesure de documenter ses évaluations et de justifier ses mesures d’atténuation auprès des autorités européennes.

Le DSA ne signifie cependant pas que chaque réponse erronée produite par ChatGPT deviendra automatiquement une infraction. Le règlement vise principalement la manière dont l’entreprise détecte, évalue et réduit les risques systémiques associés au fonctionnement de son service. Il s’agit d’un cadre distinct du règlement européen sur l’intelligence artificielle, qui encadre plutôt la conception et l’utilisation des systèmes d’IA selon leur niveau de risque.

Pour Reddit et Roblox, les obligations pourront notamment toucher la modération, les systèmes de recommandation, le signalement des contenus illicites et les mécanismes permettant de contester une décision. Les très grandes plateformes doivent également offrir davantage de transparence sur le fonctionnement de leurs recommandations et proposer au moins une option qui ne repose pas sur le profilage des utilisateurs.

La Commission pourra demander des renseignements, examiner les données et les algorithmes, mener des entrevues et procéder à des inspections. Une enquête ne signifierait toutefois pas automatiquement qu’une entreprise a enfreint la réglementation. Elle servirait d’abord à vérifier la conformité du service.

En cas d’infraction confirmée, les amendes peuvent atteindre 6 % du chiffre d’affaires annuel mondial de l’entreprise. Des pénalités quotidiennes peuvent également être imposées lorsqu’un fournisseur tarde à appliquer les correctifs exigés.

La Commission n’a pas encore précisé quels changements visibles seront apportés aux trois services. Ceux-ci dépendront des évaluations de risques réalisées par OpenAI, Reddit et Roblox ainsi que des échanges à venir avec les autorités européennes.

Sources : commission européenne, franceinfo, reuters

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.