La Floride engage une offensive judiciaire majeure contre OpenAI. Le procureur général de l’État, James Uthmeier, a déposé une poursuite civile contre l’entreprise et son directeur général, Sam Altman, les accusant d’avoir commercialisé ChatGPT comme un produit sécuritaire tout en minimisant, selon lui, certains risques pour les utilisateurs.

La poursuite ne comporte pas d’accusations criminelles. Elle vise plutôt des sanctions financières et une ordonnance du tribunal. Mais elle s’ajoute à une enquête criminelle distincte, déjà ouverte par le même procureur général en avril, sur le rôle allégué de ChatGPT dans un drame survenu à la Florida State University. OpenAI conteste l’idée que son outil ait encouragé ou favorisé des actes illégaux.

La plainte reproche à OpenAI des pratiques commerciales trompeuses, de la négligence, des violations liées à la responsabilité du produit, de fausses représentations et la création d’une nuisance publique. La Floride affirme que ChatGPT pourrait contribuer à des comportements dangereux, à une dépendance comportementale, à une perte de jugement critique et à d’autres effets négatifs chez certains utilisateurs vulnérables.

L’État cherche aussi à tenir Sam Altman personnellement responsable. C’est un élément important du dossier. La plainte soutient que le dirigeant aurait poursuivi une stratégie de croissance rapide malgré des signaux d’alerte internes et externes sur les risques liés aux robots conversationnels. Pour la Floride, le problème ne serait donc pas seulement technique, mais aussi lié à la gouvernance de l’entreprise.

OpenAI, de son côté, affirme depuis plusieurs mois renforcer ses mécanismes de sécurité. L’entreprise soutient que ChatGPT est conçu avec des garde-fous, notamment lorsque les conversations deviennent sensibles. Elle affirme aussi améliorer ses modèles pour reconnaître des situations de détresse, désamorcer certains échanges et orienter les utilisateurs vers du soutien humain lorsque c’est nécessaire.

Cette poursuite s’inscrit dans un contexte plus large. OpenAI fait déjà face à plusieurs actions judiciaires intentées par des familles et des représentants de victimes qui estiment que ChatGPT aurait joué un rôle dans des situations graves. Ces dossiers posent une question encore largement non tranchée par les tribunaux : jusqu’où une entreprise d’IA peut-elle être tenue responsable des réponses générées par son système et de l’usage qu’en font certains utilisateurs?

La Floride n’est pas seule à s’intéresser aux risques des robots conversationnels. D’autres États américains ont aussi commencé à examiner les effets possibles de ces outils sur les jeunes, la santé mentale, la sécurité publique et les pratiques commerciales. Le Kentucky a notamment poursuivi Character.AI, en affirmant que l’entreprise avait privilégié la croissance au détriment de la sécurité des enfants.

L’affaire pourrait devenir un test important pour toute l’industrie. Jusqu’ici, les grandes entreprises d’IA ont largement misé sur des avertissements, des politiques d’utilisation et des filtres de sécurité. Les procureurs et les plaignants veulent maintenant savoir si ces mesures suffisent, ou si les robots conversationnels doivent être traités comme des produits pouvant engager directement la responsabilité de leurs concepteurs.

Le dossier est encore au stade des allégations. Aucune responsabilité n’a été établie par un tribunal. Mais la poursuite de la Floride montre que la régulation de l’IA ne passera pas seulement par les lois fédérales ou les normes volontaires de l’industrie. Elle passera aussi par les tribunaux, les procureurs d’État et des affaires où les promesses de sécurité des entreprises seront confrontées à leurs effets réels.

Sources : NBC news, Politico, WSJ

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.