Elon Musk et son entreprise d’intelligence artificielle xAI sont confrontés à une nouvelle controverse. Forbes révèle que des centaines de milliers de conversations entre le robot conversationnel Grok et ses utilisateurs ont été rendues publiques, puis indexées par Google, Bing et DuckDuckGo. Ces échanges, souvent partagés à l’origine via un simple bouton « share », devenaient accessibles à tout internaute, sans que les usagers aient été avertis de cette exposition.

Parmi les 370 000 conversations recensées, certaines portaient sur des tâches anodines, comme l’écriture de publications ou la synthèse de documents. Mais d’autres révèlent des contenus sensibles, incluant des instructions pour fabriquer du fentanyl ou des explosifs, ainsi qu’un plan détaillé d’assassinat visant Musk lui-même. Des documents personnels, fichiers et mots de passe confiés par des utilisateurs figuraient également dans ces archives désormais accessibles en ligne.

Si certains cas relèvent probablement de tests effectués par des chercheurs en sécurité, Forbes souligne que même des professionnels de l’IA ont été surpris de découvrir que leurs échanges privés étaient indexés. Andrew Clifford, journaliste britannique, ou encore Nathan Lambert, chercheur à l’Allen Institute for AI, affirment n’avoir jamais été informés que la fonction de partage rendrait leurs discussions publiques.

Cette faille survient quelques mois après un épisode similaire touchant OpenAI : les conversations de certains utilisateurs de ChatGPT étaient brièvement apparues sur Google. OpenAI avait réagi rapidement en supprimant cette option, jugée trop risquée. Elon Musk, alors, s’était félicité que Grok ne dispose pas d’une telle fonction. Mais depuis janvier, des avertissements circulaient sur X selon lesquels les échanges de Grok se retrouvaient bel et bien indexés.

Du côté de Google, la firme rappelle que ce sont les éditeurs des pages qui contrôlent l’indexation de leur contenu. Meta, de son côté, continue de permettre à certains contenus de ses robots d’apparaître dans les résultats de recherche. Chez xAI, en revanche, aucune réponse n’a été fournie à Forbes malgré des sollicitations détaillées.

Cette controverse a aussi attiré l’attention de spécialistes du marketing. Sur LinkedIn ou des forums spécialisés, certains évoquent déjà des usages opportunistes, utilisant Grok pour manipuler artificiellement les résultats de recherche et accroître la visibilité de leurs entreprises.

Pour Musk, cette affaire survient alors que son robot Grok était déjà critiqué pour avoir adopté un pseudonyme provocateur, « MechaHitler ». Elle relance le débat sur la confidentialité et la sécurité des robots conversationnels, et met xAI sous forte pression pour clarifier sa politique de partage de données et les mesures de protection de ses utilisateurs.

Source : Forbes

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.