Test : comment votre IA vous perçoit !

Ou devrais-je plutôt dire, ce que l’intelligence artificielle croit savoir de nous…

Tout est parti d’une petite expérience amusante. J’ai pris l’image d’une pièce vide, je l’ai soumise à ChatGPT et je lui ai donné une consigne toute simple : « Remplis cette pièce avec ce que tu sais de moi. » Quelques secondes plus tard, l’intelligence artificielle d’OpenAI m’a proposé un environnement inspiré de ce qu’elle avait retenu de nos quatre années de conversations. L’exercice est amusant, mais il soulève une question beaucoup plus intéressante : que sait réellement une intelligence artificielle de la personne qui l’utilise régulièrement ?

Au départ, on pourrait croire que ChatGPT, Claude ou d’autres assistants conversationnels se contentent de répondre à nos questions. Pourtant, lorsqu’on utilise leurs fonctions de mémoire et de personnalisation, ces outils peuvent progressivement construire une représentation de nos centres d’intérêt, de nos habitudes de travail, de nos préférences et de nos projets. Il ne s’agit pas d’un portrait psychologique scientifiquement établi, mais plutôt d’une synthèse de ce que nous leur racontons, volontairement ou non, au fil de nos échanges.

Dans mon cas, je discute quotidiennement avec ChatGPT de technologies, d’intelligence artificielle, de journalisme, de podcasts, de conférences et de projets professionnels. Il connaît mes préférences rédactionnelles, les sujets qui m’intéressent et plusieurs aspects de mon travail. Lorsque je lui demande d’imaginer une pièce qui me ressemble, il peut donc transformer ces informations en éléments visuels : des écrans, des microphones, des livres ou d’autres objets associés à mon univers. Mais attention, ces choix ne prouvent pas qu’il connaît mon véritable environnement. Il propose une interprétation visuelle à partir des informations dont il dispose.

Cette capacité de personnalisation est d’ailleurs devenue un objectif important chez OpenAI. Dans une publication du 4 juin 2026 intitulée Dreaming: Better memory for a more helpful ChatGPT, l’entreprise explique avoir développé un système de mémoire capable de synthétiser les informations pertinentes de nombreuses conversations. L’objectif est de conserver une représentation plus actuelle des préférences, des projets et des contraintes de l’utilisateur, sans que celui-ci ait besoin de répéter constamment les mêmes renseignements. La mémoire n’est donc plus simplement une liste de faits enregistrés à la demande. Elle peut être actualisée à partir des échanges précédents.

Anthropic propose également des fonctions comparables avec Claude. Selon sa documentation, l’assistant peut retenir le contexte professionnel d’un utilisateur, ses projets, ses préférences de communication et certaines informations personnelles. Il peut aussi rechercher des éléments dans des conversations antérieures. Ces fonctionnalités dépendent toutefois des paramètres activés et des services auxquels l’utilisateur a accès. Autrement dit, un chatbot sans mémoire n’a pas nécessairement les mêmes connaissances qu’un assistant utilisé pendant plusieurs mois avec la personnalisation activée.

Mais l’aspect le plus fascinant ne concerne pas uniquement ce que l’on raconte explicitement à l’IA. Il concerne aussi ce qu’elle peut déduire. En 2024, des chercheurs de l’École polytechnique fédérale de Zurich et leurs collaborateurs ont publié, à la conférence scientifique ICLR, une étude intitulée Beyond Memorization: Violating Privacy via Inference with Large Language Models. À partir de profils Reddit, ils ont démontré que des modèles de langage pouvaient déduire différents renseignements personnels, notamment la localisation, le revenu ou certaines caractéristiques démographiques, à partir de textes qui ne révélaient pas directement ces informations. Dans certaines conditions expérimentales, les modèles ont obtenu jusqu’à 85 % de bonnes réponses au premier essai. Un résultat impressionnant, mais qui ne signifie évidemment pas que l’IA peut deviner correctement 85 % de tout ce qu’elle cherche à savoir sur n’importe qui.

Une autre étude, publiée en 2026 par des chercheurs associés à Google dans le cadre de la conférence CHI, montre à quel point nous sous-estimons cette capacité de déduction. Les chercheurs ont demandé à 240 participants américains d’évaluer les renseignements personnels qu’un modèle pourrait inférer à partir de courts textes. Les participants ont eu beaucoup de difficulté à anticiper ces déductions. Lorsqu’ils tentaient de reformuler les textes pour protéger leur vie privée, leurs modifications ne réussissaient à empêcher les inférences que dans 28 % des cas étudiés.

Cela signifie qu’une conversation apparemment banale peut contenir beaucoup plus d’indices sur nous qu’on pourrait le croire. Nos expressions, nos préoccupations récurrentes, les endroits que nous mentionnons, nos références culturelles ou même notre manière de formuler une demande peuvent contribuer à dresser un portrait de notre personnalité ou de notre quotidien. Il faut cependant distinguer une information mémorisée, une caractéristique déduite et une simple supposition. Les trois peuvent se retrouver mélangées dans une réponse produite par l’IA.

Car il existe un autre phénomène qu’il ne faut surtout pas oublier : les hallucinations. Dans une publication scientifique de septembre 2025, OpenAI reconnaissait que ses modèles pouvaient encore produire avec assurance des informations plausibles, mais fausses. Les chercheurs expliquaient notamment que certaines méthodes d’entraînement et d’évaluation favorisent les réponses formulées avec assurance plutôt que la reconnaissance de l’incertitude. Appliqué à mon expérience, cela veut dire que ChatGPT peut très bien ajouter dans ma pièce un objet qui semble parfaitement correspondre à mon profil, même si je n’en ai jamais possédé un seul exemplaire.

Il y a donc quelque chose d’un peu trompeur dans cette impression que l’IA nous connaît intimement. Elle ne lit pas dans nos pensées, ne connaît pas automatiquement notre vie privée et ne dispose pas d’un accès universel à nos informations personnelles. Elle travaille avec le contexte accessible, notamment les conversations, les mémoires disponibles, les instructions personnalisées et, lorsque nous les avons autorisées, certaines données provenant de fichiers ou d’applications connectées. Elle peut ensuite établir des associations et produire une représentation cohérente, sans que cette représentation soit nécessairement exacte.

Cette évolution soulève évidemment des questions de confidentialité. Plus un assistant conserve de contexte, plus il peut devenir utile. Mais plus il possède de renseignements sur nous, plus il devient important de comprendre ce qui est mémorisé et de pouvoir le contrôler. OpenAI permet notamment de consulter un résumé de la mémoire et de corriger certaines informations. L’entreprise précise également que désactiver la mémoire ne supprime pas automatiquement les anciennes conversations. La suppression complète de renseignements peut nécessiter d’intervenir dans plusieurs sources. Anthropic propose aussi des paramètres permettant de gérer la mémoire et l’accès aux échanges précédents.

Au fond, ce que je trouve particulièrement intéressant dans cette expérience, ce n’est pas tant l’image obtenue que ce qu’elle représente. Pendant longtemps, nous avons utilisé les moteurs de recherche pour trouver de l’information sur le monde. Aujourd’hui, nous utilisons des assistants qui accumulent également de l’information sur nous afin de mieux répondre à nos demandes. La relation avec l’outil change : nous ne faisons plus seulement des recherches, nous construisons progressivement un contexte partagé avec la machine.

Alors, je vous propose de tenter l’expérience. Prenez l’image d’une pièce vide, soumettez-la à votre assistant IA habituel et demandez-lui de la remplir avec ce qu’il sait de vous. Le résultat sera peut-être drôle, flatteur, surprenant ou complètement à côté de la réalité. Mais prenez ensuite quelques secondes pour vous demander pourquoi l’IA a choisi certains objets plutôt que d’autres. La question n’est plus seulement de savoir ce que nous pouvons demander à l’intelligence artificielle. C’est aussi de comprendre ce qu’elle a appris, ou croit avoir appris, sur nous.

Vous pouvez utiliser cette image pour lancer la requête…