Un chercheur a révélé qu’environ 100 000 conversations issues de ChatGPT, rendues publiques par leurs utilisateurs via une fonction de partage, étaient consultables librement sur Google. Cette fuite massive met en lumière les risques de confidentialité liés à l’usage des outils d’intelligence artificielle lorsque les paramètres de partage sont mal compris ou mal gérés.

La découverte, partagée avec le média spécialisé 404 Media, fait suite à un article de Fast Company publié le 30 juillet dernier, qui évoquait déjà la présence de milliers de conversations accessibles via le moteur de recherche. L’analyse du nouveau jeu de données révèle une diversité de contenus, allant du banal au très personnel : brouillons de messages à des ex-partenaires, demandes de rédaction de contrats commerciaux, ou encore partages de documents confidentiels comme un supposé accord de non-divulgation d’OpenAI.

La faille découle d’une fonctionnalité expérimentale proposée par OpenAI, permettant aux utilisateurs de partager un lien public vers une conversation choisie. Une fois activée, cette option créait une page indexable par les moteurs de recherche. OpenAI précise que cette fonction était activée de manière volontaire, nécessitant deux étapes de validation, mais reconnaît que certains utilisateurs n’avaient peut-être pas mesuré les conséquences de cette action.

Dane Stuckey, chef de la sécurité de l’information chez OpenAI, a confirmé que cette fonctionnalité a été retirée. L’entreprise indique également être en train de collaborer avec les moteurs de recherche pour faire retirer les pages déjà indexées. « Cette expérience a finalement comporté trop de risques de partages involontaires », explique-t-il.

Google, pour sa part, n’a pas encore réagi publiquement. Mais la situation soulève un enjeu central : une fois que des données sensibles sont rendues publiques sur le Web, même brièvement, elles peuvent être récupérées et archivées par des tiers. Le chercheur à l’origine de la découverte, qui a demandé l’anonymat, a déjà extrait l’ensemble du corpus pour analyse.

Cet épisode rappelle que la prudence reste de mise lorsqu’on interagit avec des outils d’IA, surtout lorsqu’une fonctionnalité offre une visibilité publique sans en expliciter clairement les implications.

Source : 404 Media, Fast Company

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.