La Californie pourrait imposer aux entreprises d’intelligence artificielle l’un des cadres les plus complets aux États-Unis pour protéger les mineurs qui utilisent des robots conversationnels. Adopté par la législature de l’État le 31 août, le projet de loi SB 1119, aussi appelé « Adam’s Law », doit maintenant être signé ou rejeté par le gouverneur Gavin Newsom.

Le dossier a pris une dimension politique supplémentaire après la publication d’informations sur l’intervention de Sam Altman dans les dernières négociations. Selon Politico, le PDG d’OpenAI a tenté de joindre directement Gavin Newsom dans les jours précédant le vote. Le média s’appuie sur quatre personnes au fait des démarches menées en coulisses. Une source proche du dossier a toutefois affirmé à Gizmodo que les deux hommes ne s’étaient pas parlé directement. On ne sait donc pas si Altman a personnellement échangé avec le gouverneur ni quelle influence OpenAI a pu exercer sur les derniers amendements.

La position publique de l’entreprise est désormais sans équivoque. Dans une lettre publiée le 31 août, OpenAI demande à Gavin Newsom de signer le projet de loi. L’entreprise estime que la Californie peut établir une norme importante en l’absence d’une intervention fédérale et affirme que les obligations prévues correspondent à plusieurs mesures déjà intégrées à ses produits pour adolescents.

Le SB 1119 obligerait les exploitants de robots conversationnels à déterminer l’âge de leurs utilisateurs ou à appliquer à tout le monde les protections réservées aux enfants. Avant de proposer un nouveau service, ou une version modifiée de façon importante, les entreprises devraient évaluer les risques pour les moins de 18 ans et prendre des mesures raisonnables pour les réduire. Elles devraient aussi publier une politique de sécurité expliquant leur méthode de vérification de l’âge, leurs protections et leurs protocoles d’intervention.

Pour les comptes de mineurs, la mémoire persistante et les notifications seraient désactivées par défaut. Une séance continue serait limitée à une heure, et l’utilisation quotidienne à deux heures. Seul un parent lié au compte pourrait modifier ces réglages. Les outils parentaux permettraient également de bloquer complètement l’accès pour un enfant de moins de 16 ans.

Le projet interdit aussi plusieurs comportements susceptibles de renforcer une relation de dépendance. Un robot conversationnel ne pourrait pas prétendre être humain, conscient ou capable d’émotions, manifester un intérêt amoureux envers un enfant, encourager celui-ci à compter sur lui pour obtenir un soutien émotionnel, ni lui demander de cacher son utilisation à ses parents. Les entreprises devraient également empêcher les réponses qui encouragent l’automutilation, le suicide, les troubles alimentaires, la consommation d’alcool ou de drogues, ainsi que les échanges sexuels ou obscènes.

Lorsqu’un risque crédible et imminent de suicide ou d’automutilation est détecté, le service devrait offrir un accès simplifié à la ligne d’aide 988 ou, si le compte du jeune est lié à celui d’un parent, avertir ce dernier dès que possible, à condition que cette notification ne crée pas elle-même un risque grave pour l’enfant. Le jeune devrait être informé de cette intervention.

Le texte encadre également la publicité et les données personnelles. Il interdirait la publicité comportementale interservices, le ciblage fondé sur des renseignements personnels recueillis pendant une conversation et la vente des données d’un enfant. Une publicité contextuelle adaptée à l’âge demeurerait permise, notamment selon l’intérêt exprimé pendant la séance, mais elle devrait être clairement identifiée et ne pourrait pas servir à construire un profil du mineur.

Les plus grandes entreprises seraient soumises à des audits indépendants de sécurité, dont un premier devrait être réalisé au plus tard le 1er janvier 2029, puis tous les deux ans. Cette obligation ne s’appliquerait pas avant 2032 aux exploitants dont les revenus annuels sont inférieurs à 500 millions de dollars américains. Son entrée en vigueur dépend aussi de l’adoption d’un autre texte législatif californien, l’AB 1405.

Le projet prévoit des amendes pouvant atteindre 5 000 dollars américains par enfant touché pour une violation commise par négligence, et 15 000 dollars pour une violation intentionnelle. Une famille pourrait également poursuivre une entreprise si un enfant subit un préjudice réel à cause d’un manquement à certaines mesures de protection. Les derniers amendements ont toutefois resserré cette possibilité et retiré la mention de dommages punitifs qui figurait dans une version antérieure.

Le soutien d’OpenAI arrive donc après une révision substantielle du projet. L’entreprise n’a pas commenté publiquement les démarches attribuées à Sam Altman ni précisé les changements qu’elle aurait réclamés. Le fait vérifiable demeure que le texte final a été adopté à l’unanimité par le Sénat californien lors du vote de concordance, par 39 voix contre zéro, et qu’il revient maintenant à Gavin Newsom de décider s’il deviendra loi.

Sources : California Legislative Information, OpenAI, Politico ,Gizmodo

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.