
Muse, le nouvel agent d’intelligence artificielle de Meta, séduit déjà des millions d’utilisateurs grâce à sa capacité d’accomplir des tâches à leur place. Pour profiter pleinement de ses services, ceux-ci peuvent toutefois lui donner accès à leurs messages, à leurs comptes bancaires, à leurs données de santé et à d’autres renseignements personnels. Une enquête de WIRED révèle maintenant que l’agent ne se contente pas de mémoriser des informations sur son utilisateur. Il construit également des profils détaillés des personnes qui l’entourent.
Le chercheur indépendant en sécurité de l’IA Karan Joshi a obtenu les instructions internes de Muse en demandant simplement à l’agent de copier certains de ses propres fichiers. Meta affirme que ces documents ont été rendus accessibles volontairement dans un souci de transparence. Ils révèlent notamment l’existence d’un processus exécuté toutes les heures pour créer et enrichir une fiche consacrée à chaque personne importante dans la vie de l’utilisateur.
Ces profils peuvent concerner les membres de la famille, les partenaires, les amis, les collègues, les collaborateurs et même certaines personnes suivies en ligne. Chaque fiche peut réunir des faits personnels, l’historique de la relation, les intérêts communs, les conversations à reprendre et des suggestions destinées à renforcer les liens. Muse peut ainsi retenir un anniversaire, un déménagement, un projet d’épargne partagé, une dispute résolue ou les fleurs préférées d’un conjoint.
Les instructions demandent à l’agent de s’appuyer uniquement sur les éléments dont il dispose et de laisser une section vide plutôt que d’inventer une information. Cela ne règle toutefois pas le problème des déductions erronées. Une IA peut interpréter incorrectement un message, attribuer une intention qui n’existe pas ou établir des liens inexacts entre plusieurs événements. Ces profils concernent aussi des personnes qui n’utilisent pas nécessairement Muse et qui n’ont pas directement consenti à cette collecte indirecte.
Meta explique que cette connaissance du contexte est indispensable pour qu’un agent puisse réellement aider son utilisateur. L’entreprise indique que les données de chaque personne sont conservées dans une machine virtuelle distincte, inaccessible aux autres utilisateurs et aux autres agents. Muse permettrait également d’effacer sa mémoire, de déconnecter les services externes et de consulter un registre de ses activités. Une confirmation humaine serait exigée avant certaines actions sensibles, comme l’envoi d’un courriel ou la réalisation d’un achat.
Pour Carissa Véliz, professeure associée à l’Institute for Ethics in AI de l’Université d’Oxford, le problème dépasse les renseignements volontairement transmis. Les agents peuvent aussi déduire de nouvelles informations et les combiner avec des données provenant d’autres sources. Miranda Bogen, du Center for Democracy and Technology, estime pour sa part que Muse accorde une place particulièrement importante aux relations personnelles, alors que ces outils invitent déjà les utilisateurs à leur confier courriels, calendriers et comptes financiers.
Muse illustre ainsi le compromis au cœur des agents personnels. Plus ils connaissent l’utilisateur et son entourage, plus leurs recommandations peuvent être pertinentes. Mais cette efficacité repose sur une cartographie toujours plus précise de la vie privée, y compris celle des proches. Les mécanismes de contrôle proposés par Meta peuvent réduire certains risques, sans répondre entièrement aux questions concernant le consentement des tiers, les erreurs d’interprétation et l’utilisation future de ces profils.
Source : Wired
+++++++
Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.
Ou encore…
Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.
En savoir plus sur Mon Carnet
Subscribe to get the latest posts sent to your email.


Un excellent texte et je suis très sollicité par muse mais je ne suis pas prêt pour ça. Bonne soirée