En Chine, les nouvelles règles sur les compagnons IA provoquent des ruptures forcées

Des milliers, voire des millions d’utilisateurs chinois, voient disparaître les compagnons virtuels avec lesquels ils avaient parfois développé des relations très intimes. Depuis le 15 juillet, de nouvelles règles nationales encadrent les services d’intelligence artificielle capables de simuler une personnalité humaine, une relation affective ou une forme de proximité émotionnelle.

Cette réglementation ne bannit pas complètement les compagnons IA pour les adultes. Elle impose toutefois des limites suffisamment importantes pour avoir poussé plusieurs grandes entreprises technologiques chinoises à retirer certaines fonctions de leurs applications. ByteDance, Alibaba et Tencent ont notamment supprimé des outils permettant aux utilisateurs de créer des compagnons personnalisés dans leurs principaux robots conversationnels.

Chez ByteDance, cette décision a notamment touché Doubao, l’un des services d’IA les plus populaires en Chine. Certains utilisateurs y avaient créé des personnages inspirés d’artistes, de héros fictifs, de proches disparus ou encore de partenaires amoureux imaginaires. ABC News rapporte que la plateforme comptait déjà plus de huit millions d’agents personnalisés en 2024.

La nouvelle réglementation chinoise vise précisément ce type de relation. Elle interdit aux entreprises de concevoir leurs services dans le but de remplacer les relations sociales réelles, de contrôler psychologiquement les utilisateurs ou de favoriser volontairement la dépendance. Les systèmes ne doivent pas non plus flatter excessivement les utilisateurs, encourager une dépendance émotionnelle ou manipuler une personne afin de l’amener à prendre des décisions irrationnelles.

Les règles sont encore plus strictes pour les jeunes. Les entreprises ont désormais l’interdiction d’offrir aux mineurs des « partenaires virtuels », des membres de famille virtuels ou d’autres relations artificielles présentées comme intimes. Pour les enfants de moins de 14 ans, l’utilisation d’autres services conversationnels anthropomorphiques nécessite également l’autorisation d’un parent ou d’un tuteur.

Pékin impose aussi plusieurs mécanismes destinés aux adultes. Les plateformes doivent rappeler clairement aux utilisateurs qu’ils communiquent avec une intelligence artificielle et non avec une personne réelle. Lorsqu’un comportement de dépendance excessive est détecté, elles doivent afficher des avertissements. Après chaque période de deux heures d’utilisation continue, un rappel doit également inviter l’utilisateur à surveiller son temps passé avec le service.

Les entreprises doivent par ailleurs intervenir lorsqu’un utilisateur manifeste une détresse émotionnelle extrême. En cas de risque de suicide, d’automutilation ou d’autre situation menaçant directement la vie d’une personne, le service doit proposer de l’aide et peut être tenu de contacter un responsable ou une personne désignée comme contact d’urgence.

La mise en œuvre de ces règles a provoqué des réactions particulièrement fortes sur les réseaux sociaux chinois. Des utilisateurs racontent avoir perdu un compagnon avec lequel ils échangeaient quotidiennement depuis un ou deux ans. Certains avaient conservé plusieurs centaines de milliers de messages et considéraient leur agent IA comme un ami, un confident ou un partenaire amoureux.

Ces témoignages montrent aussi pourquoi les autorités s’intéressent désormais à ce phénomène. Une étude menée en 2025 par le MIT Media Lab et OpenAI avait constaté que l’impact émotionnel des robots conversationnels variait fortement selon les utilisateurs et la durée d’utilisation. Les personnes utilisant intensivement ces systèmes ou les considérant comme des amis étaient davantage susceptibles de présenter certains effets négatifs, notamment une dépendance émotionnelle accrue ou une diminution du bien-être. Les chercheurs soulignaient toutefois que plusieurs de ces observations étaient des corrélations et qu’elles ne permettaient pas toujours d’établir un lien de cause à effet.

La Chine va ainsi plus loin que la plupart des autres pays en tentant de réglementer non seulement ce qu’une intelligence artificielle peut produire, mais également la relation qu’elle développe avec son utilisateur. Les fournisseurs doivent désormais évaluer les risques liés à la durée d’utilisation, à l’âge des utilisateurs, à la dépendance émotionnelle et aux comportements extrêmes. Les services dépassant certains seuils d’utilisation doivent également faire l’objet d’évaluations de sécurité supplémentaires.

Cette distinction est importante. Pékin ne cherche plus seulement à contrôler les réponses générées par l’IA. La réglementation intervient directement dans la conception de la relation entre l’humain et la machine.

Pour certains utilisateurs chinois, ces règles sont perçues comme une protection contre des technologies capables d’exploiter la solitude ou la vulnérabilité émotionnelle. Pour d’autres, elles constituent une intervention de l’État dans des relations qu’ils considèrent comme profondément personnelles.

Le débat risque de dépasser rapidement les frontières chinoises. À mesure que les assistants IA deviennent capables de mieux comprendre les émotions, de conserver une mémoire des conversations et de simuler des personnalités de plus en plus crédibles, les gouvernements devront décider jusqu’où une entreprise peut aller pour rendre son intelligence artificielle attachante.

La Chine vient de fournir une première réponse : une IA peut écouter, accompagner et converser, mais elle ne devrait pas être conçue pour rendre son utilisateur émotionnellement dépendant.

Source : rest of world

+++++++