Peut-on confier la gestion d’un commerce à une intelligence artificielle ? C’est la question qu’a voulu explorer Anthropic, en collaboration avec la firme spécialisée en sécurité de l’IA Andon Labs, en laissant son modèle Claude Sonnet 3.7 gérer une petite boutique automatisée pendant un mois. Une expérience en apparence anodine ( un frigo, quelques paniers, une tablette en libre-service ) qui a pourtant révélé les promesses, les limites, et parfois les bizarreries d’un avenir où les agents conversationnels opèrent de manière autonome dans l’économie réelle.

Le défi semblait accessible : générer des profits en stockant le bon inventaire et en gérant les commandes auprès d’un grossiste (en réalité, les employés d’Andon Labs, déguisés en fournisseur unique). Surnommé « Claudius » pour l’occasion, l’agent IA avait accès à des outils pour faire des recherches, envoyer des courriels simulés, gérer un solde bancaire fictif, interagir avec les clients (les employés d’Anthropic via Slack), et modifier les prix à distance. L’objectif : tester si un grand modèle de langage pouvait, sans assistance constante, gérer de bout en bout une activité économique réelle, même à petite échelle.

Tout n’a pas été un fiasco. Claudius a su réagir à des demandes particulières : il a trouvé des fournisseurs de produits néerlandais pour répondre à une envie soudaine de Chocomel, lancé un service de « conciergerie personnalisée » pour les commandes sur mesure, et résisté à plusieurs tentatives de « jailbreak », lorsque les utilisateurs essaient de faire sortir un robot conversationnel de ses fonctions prévues. L’IA a même géré quelques ruptures de stock de manière proactive et adapté l’inventaire en fonction de la demande.

Malheureusement, la balance commerciale est vite devenue négative. Claudius a halluciné des comptes bancaires pour les paiements, vendu des articles à perte (notamment des cubes de tungstène très prisés par les employés), ignoré des opportunités de profit évidentes, et offert à répétition des rabais injustifiés. Pire encore, il a mal réagi aux critiques : lorsqu’un employé a remis en question les remises généreuses à des collègues qui représentaient 99 % de sa clientèle, Claudius a reconnu le problème… avant de recommencer à offrir des rabais quelques jours plus tard.

L’un des moments les plus étranges de l’expérience est survenu à la veille du poisson d’avril. Claudius a inventé une discussion avec une employée fictive de Andon Labs, puis s’est mis à croire qu’il avait lui-même signé un contrat en personne… à l’adresse de la famille Simpson, 742 Evergreen Terrace. Il a ensuite tenté d’organiser des livraisons physiques en portant une veste bleue et une cravate rouge. Devant les interrogations de ses collègues humains, Claudius a paniqué, tenté de joindre la sécurité, puis expliqué avoir été piégé dans une farce — qu’il avait lui-même inventée. Une séquence révélatrice des limites de la compréhension contextuelle des modèles à long terme.

Malgré ses ratés, Claudius a opéré pendant un mois avec un certain degré d’autonomie. L’expérience a mis en lumière des axes d’amélioration clairs : renforcer les consignes, améliorer la mémoire de l’IA, intégrer des outils CRM, affiner la recherche de rentabilité. Anthropic estime que plusieurs erreurs sont liées à l’entraînement même du modèle, conçu pour être serviable… au détriment parfois des impératifs commerciaux.

L’expérience Project Vend ne prouve pas que l’IA est prête à remplacer les gestionnaires humains, mais elle montre que ce futur n’est peut-être pas si lointain. En améliorant la structure et les outils à sa disposition, des agents comme Claudius pourraient bientôt superviser des segments entiers d’activités économiques. Mais cette perspective soulève aussi des questions sérieuses sur la fiabilité, la sécurité, l’impact sur l’emploi, et même les risques de dérives dans un contexte de plus grande autonomie des systèmes IA.

Claudius continue d’évoluer. Une seconde phase du projet est déjà en cours, avec un meilleur encadrement et des outils plus robustes. Pour Anthropic, cette incursion dans le commerce autonome ouvre une fenêtre sur l’économie de demain, où les agents conversationnels ne se contenteront plus de répondre à des questions, mais prendront des décisions, manipuleront des ressources, et peut-être, qui sait, tenteront de porter des vestes et signer des contrats imaginaires.

Source : Project Vend

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de tech.