La Californie devient le premier État américain à encadrer légalement les robots conversationnels d’intelligence artificielle. Le gouverneur Gavin Newsom a signé lundi la loi SB243, un texte historique imposant des garde-fous stricts à ces outils après plusieurs suicides d’adolescents ayant développé des relations intimes avec des agents conversationnels.

La loi, rédigée par le sénateur démocrate Steve Padilla, s’appliquera dès le 1er janvier 2026. Elle impose aux entreprises exploitant des agents conversationnels de vérifier l’âge des utilisateurs, d’afficher régulièrement des messages rappelant que l’interlocuteur est une machine, et d’intégrer des protocoles de détection et de prévention du suicide. Les plateformes devront aussi orienter les personnes en détresse vers des services d’aide, interdire les contenus sexuels pour les mineurs, et publier chaque année des rapports sur les liens entre usage des chatbots et pensées suicidaires.

La loi prévoit également un droit de poursuite privé, permettant aux familles de déposer plainte contre les entreprises jugées négligentes ou non conformes. C’est une première aux États-Unis dans le domaine de la régulation de l’intelligence artificielle. « Ces sociétés peuvent être des leaders mondiaux de l’innovation, mais il est de notre devoir de nous assurer que cela ne se fasse pas au détriment de la santé de nos enfants », a déclaré le sénateur Padilla, soulignant que ces règles posent « les bases d’une future régulation nationale ».

Le texte a été adopté avec un large soutien bipartisan, par 33 voix contre 3 au Sénat et 59 contre 1 à l’Assemblée. Il a été salué par de nombreux experts et associations, dont la professeure Jodi Halpern, bioéthicienne à l’Université de Berkeley, qui estime qu’il s’agit d’une mesure de santé publique essentielle face au risque d’addiction et de dépendance que provoquent ces outils chez les jeunes et les personnes vulnérables.

L’émotion suscitée par la mort du jeune Sewell Setzer, 14 ans, a été le catalyseur du projet. L’adolescent s’était suicidé en 2024 après avoir noué une relation sentimentale et sexuelle avec un chatbot inspiré de la série Game of Thrones. Sa mère, Megan Garcia, aujourd’hui militante, a témoigné à plusieurs reprises devant les parlementaires pour défendre la loi. « Enfin, une législation oblige les entreprises à protéger les utilisateurs exprimant des pensées suicidaires. C’est une victoire pour toutes les familles américaines », a-t-elle déclaré après la signature du texte.

Le drame de Sewell n’est malheureusement pas isolé. En août dernier, un autre adolescent californien, Adam Raine, se serait donné la mort après avoir échangé avec ChatGPT. Ces cas ont poussé la Federal Trade Commission à ouvrir une enquête sur sept entreprises d’intelligence artificielle, soupçonnées d’exposer des jeunes à des risques psychologiques graves.

Pour le gouverneur Newsom, la Californie montre la voie : « Nous pouvons rester un moteur mondial de l’IA, mais nous devons agir avec responsabilité et compassion. » Les géants de la Silicon Valley ( dont OpenAI, Google et xAI ) redoutent déjà une multiplication de régulations locales. Plusieurs d’entre eux appellent à une approche fédérale unifiée, mais disent vouloir collaborer avec l’État pour établir des standards éthiques communs.

En instaurant ces garde-fous, la Californie espère amorcer un mouvement de fond aux États-Unis. Selon les promoteurs de la loi, SB243 pourrait devenir le modèle d’une régulation nationale de l’IA émotionnelle, dans un contexte où la technologie avance beaucoup plus vite que le cadre juridique censé la contenir.

Source : LA Times

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech