
L’enquête canadienne sur OpenAI marque un moment important dans l’encadrement de l’intelligence artificielle générative. Pour la première fois à cette échelle, quatre autorités de protection de la vie privée au pays, Ottawa, Québec, Colombie-Britannique et Alberta, concluent qu’OpenAI a développé et déployé ChatGPT d’une manière qui contrevenait aux lois applicables à la protection des renseignements personnels. Le rapport ne remet pas en cause l’utilité de l’IA générative. Il reconnaît même que des systèmes comme ChatGPT peuvent servir l’éducation, la recherche, la créativité et l’innovation. Mais il pose une limite claire : l’innovation ne peut pas justifier une collecte massive, mal encadrée et insuffisamment expliquée de données personnelles.
Le document vise principalement ChatGPT et les modèles GPT-3.5 et GPT-4, soit les systèmes qui alimentaient le service au moment de l’ouverture de l’enquête. Les versions plus récentes n’ont pas été évaluées directement, même si les commissariats ont examiné certaines mesures nouvelles présentées par OpenAI en réponse au rapport préliminaire. L’enquête ne portait pas non plus sur tous les usages possibles de ChatGPT par les clients, développeurs ou entreprises. Elle s’est concentrée sur une question fondamentale : OpenAI pouvait-elle recueillir, utiliser et communiquer des renseignements personnels de Canadiens pour entraîner et exploiter ChatGPT dans les conditions observées ?
La réponse des autorités est nuancée, mais sévère. Elles reconnaissent que le développement d’un grand modèle de langage exige de très grands volumes de données et que ces données peuvent contenir des renseignements personnels. Elles reconnaissent aussi que ChatGPT est généralement efficace pour produire du langage naturel, faire de la synthèse, traduire ou répondre à des demandes variées. Mais selon elles, OpenAI a franchi une ligne lorsqu’elle a constitué ses corpus d’entraînement à partir de sites Web accessibles au public, de sources tierces autorisées et d’interactions d’utilisateurs, sans mesures suffisantes pour limiter la collecte aux renseignements nécessaires et proportionnels.
Le rapport insiste sur un point souvent mal compris : le fait qu’une information soit accessible sur Internet ne signifie pas automatiquement qu’elle peut être librement aspirée, intégrée à un modèle d’IA et réutilisée à grande échelle. Les commissariats estiment qu’OpenAI a recueilli d’importantes quantités de renseignements personnels, y compris potentiellement des données sensibles, des opinions personnelles, des renseignements liés à des enfants ou des informations provenant de forums et de réseaux sociaux. Or, ces espaces peuvent contenir des propos inexacts, subjectifs, biaisés ou sortis de leur contexte.
OpenAI a soutenu que la présence de renseignements personnels dans ses données d’entraînement était accessoire à l’objectif plus large d’obtenir un corpus textuel vaste et diversifié. Les autorités rejettent cet argument. À leurs yeux, la collecte n’était pas simplement incidente. Elle faisait partie intégrante du fonctionnement du modèle, puisque les données personnelles ont servi à entraîner les systèmes à comprendre et à produire du langage dans de nombreux contextes.
Le rapport reconnaît toutefois une différence entre les sources utilisées. Les commissariats jugent que les interactions des utilisateurs avec ChatGPT peuvent, dans certaines circonstances, servir à améliorer les modèles, notamment lors de la phase d’affinage. Ils acceptent que ces données puissent aider à rendre les réponses plus utiles, plus sûres et plus pertinentes. Mais cela suppose des protections adéquates, comme la dissociation des conversations des comptes utilisateurs, le filtrage de certains renseignements identifiables, des avis clairs et une possibilité réelle de refuser l’utilisation de ces données à des fins d’entraînement.
C’est là que le rapport devient particulièrement important pour les utilisateurs. Les commissariats estiment qu’OpenAI n’a pas suffisamment informé les individus de la manière dont leurs renseignements pouvaient être collectés, utilisés ou communiqués. Ils demandent notamment que les utilisateurs soient avertis clairement, avant d’entrer une première requête, que leurs conversations peuvent être examinées et utilisées pour entraîner les modèles. Ils recommandent aussi que les utilisateurs soient mieux informés des risques associés à la communication de renseignements sensibles dans ChatGPT.
La question du consentement est au cœur du rapport. Les autorités fédérales et provinciales ne l’abordent pas toutes de la même manière, car les lois applicables ne sont pas identiques. Le Commissariat fédéral conclut que la plainte est fondée, mais conditionnellement résolue, compte tenu des engagements pris par OpenAI. Les autorités de la Colombie-Britannique et de l’Alberta sont plus fermes sur certains aspects, estimant que les modèles d’OpenAI reposent sur des données moissonnées pour lesquelles OpenAI n’a pas obtenu, et ne peut pas obtenir, le consentement requis par leurs lois respectives. Du côté du Québec, la Commission d’accès à l’information considère que certains éléments sont fondés et conditionnellement résolus, mais que les enjeux liés au consentement et à la conservation demeurent fondés et non résolus.
Cette distinction est importante. Elle signifie que l’affaire n’est pas fermée partout de la même façon. Au fédéral, les engagements d’OpenAI sont jugés suffisants pour l’instant, à condition qu’ils soient mis en œuvre. Au Québec, la CAI conserve une position plus exigeante, notamment sur la nécessité d’un consentement valide et sur la conservation des renseignements personnels. Elle recommande même qu’OpenAI modifie les paramètres de confidentialité de ses systèmes afin que, par défaut, les conversations des utilisateurs ne soient pas utilisées pour entraîner ses modèles, à moins que ces utilisateurs n’activent eux-mêmes cette option.
Le rapport aborde aussi la question de l’exactitude. Les grands modèles de langage peuvent produire des réponses plausibles, mais inexactes. Lorsque ces réponses portent sur des individus, les conséquences peuvent toucher la réputation, la vie privée et les droits des personnes concernées. Les commissariats reprochent à OpenAI de ne pas avoir suffisamment établi le niveau d’exactitude des renseignements personnels produits par ChatGPT. Ils demandent plus de transparence sur les limites des modèles, des avertissements plus visibles, une meilleure explication des risques d’erreur et, lorsque possible, des mécanismes permettant de vérifier les renseignements personnels générés.
L’accès, la correction et la suppression des données constituent un autre volet sensible. OpenAI offre déjà des outils d’exportation de données aux utilisateurs disposant d’un compte. Mais selon le rapport, ces outils ne suffisent pas toujours à permettre un exercice réel des droits prévus par les lois canadiennes. Les commissariats demandent un format plus convivial, des explications plus claires et une manière plus simple de contester l’exactitude ou l’exhaustivité des renseignements fournis.
La conservation des données soulève elle aussi des critiques. Les autorités estiment qu’OpenAI n’avait pas établi de politiques suffisamment appropriées pour la conservation et le retrait des renseignements personnels utilisés dans le développement et le déploiement de GPT-3.5 et GPT-4. Elles demandent une politique officielle définissant combien de temps les renseignements peuvent être conservés, dans quelles conditions ils doivent être supprimés, anonymisés ou dépersonnalisés, et ce qui arrive aux ensembles de données utilisés pour entraîner des versions successives des modèles.
OpenAI conteste plusieurs conclusions. L’entreprise affirme qu’elle respecte les lois à la plupart des égards, en s’appuyant sur ses pratiques existantes et sur des mesures récemment ajoutées. Elle a néanmoins pris une série d’engagements : publier un billet canadien expliquant ses pratiques de protection de la vie privée, mieux décrire les sources utilisées pour entraîner ses modèles, afficher un avis aux utilisateurs sans compte avant leur première requête, améliorer l’exportation des données et encadrer davantage la conservation des ensembles de données obsolètes.
Les autorités reconnaissent que certaines mesures récentes d’OpenAI vont dans la bonne direction. L’entreprise affirme notamment avoir mis en place un outil capable de détecter et de masquer un large éventail de renseignements permettant d’identifier des personnes dans les données d’entraînement. Les commissariats considèrent que ce type d’outil peut réduire considérablement les risques, surtout pour les modèles plus récents. Mais ils notent aussi que ces mesures n’étaient pas en place lors de l’entraînement de GPT-3.5 et GPT-4.
L’affaire dépasse largement OpenAI. Elle établit un précédent pour tous les développeurs d’IA générative actifs au Canada. Les autorités ne disent pas qu’il est interdit d’entraîner des modèles avec de vastes corpus de données. Elles disent plutôt que cette pratique doit être justifiée, limitée, documentée, expliquée et encadrée. Autrement dit, l’IA générative ne peut plus se réfugier derrière la complexité technique pour échapper aux principes de base de la protection des renseignements personnels.
Pour les entreprises technologiques, le message est clair : la protection de la vie privée doit être intégrée dès la conception des modèles, et non ajoutée après coup lorsque les régulateurs interviennent. Pour les utilisateurs, le rapport rappelle une réalité simple : une conversation avec un robot conversationnel peut contenir des renseignements personnels, parfois très sensibles, et ces renseignements peuvent avoir une valeur d’entraînement pour les systèmes d’IA.
Cette enquête ne règle pas tous les débats soulevés par l’IA générative. Elle ne tranche pas les enjeux de droit d’auteur, de concurrence, de désinformation ou de responsabilité civile. Mais elle trace une ligne réglementaire importante au Canada : les données personnelles ne sont pas une matière première gratuite. Même lorsqu’elles circulent sur le Web, elles restent liées à des personnes, à des droits et à des attentes raisonnables de protection.
La suite dépendra maintenant de la mise en œuvre des engagements d’OpenAI et du suivi des commissariats. Le rapport laisse entendre que d’autres mesures pourraient être prises si les recommandations ne sont pas respectées. Pour OpenAI, c’est un rappel à l’ordre. Pour l’ensemble de l’industrie, c’est un avertissement : l’ère de l’entraînement massif sans comptes à rendre touche peut-être à sa fin.
Source : Commissariat à la protection de la vie privée du Canada
******
Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.
Ou encore…
Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.
En savoir plus sur Mon Carnet
Subscribe to get the latest posts sent to your email.


Un excellent texte qui est très complexe à comprendre mais ça m’aide voir tout les impacts dans nos vies. Merci beaucoup et bonne soirée