Meta a reconnu avoir testé une fonction permettant à des contractuels humains de prendre discrètement le relais de certains appels téléphoniques effectués par son nouvel assistant d’intelligence artificielle Muse. Une expérience qui soulève des questions sur la transparence et la confidentialité des agents IA présentés comme capables d’agir de manière autonome.

Selon des communications internes consultées par Reuters, le système baptisé « human concierge » permettait à Muse de transférer une demande à un agent humain formé, chargé ensuite de téléphoner à une entreprise et d’accomplir la tâche demandée. Le test a été proposé à environ la moitié des employés de Meta, avec la possibilité de s’en retirer.

Muse permet notamment de demander à l’assistant d’appeler un commerce pour réserver un rendez-vous, vérifier la disponibilité d’un produit ou obtenir une soumission. Après l’appel, l’utilisateur reçoit un résumé et une transcription de la conversation dans l’application. Meta avait commencé à tester cette fonction auprès de ses employés en août avant de la déployer progressivement auprès de certains utilisateurs.

Le recours à des humains a toutefois suscité des inquiétudes à l’interne. Certains employés ont souligné que les utilisateurs pourraient communiquer des renseignements personnels ou sensibles sans savoir qu’un contractuel se trouve réellement au bout du processus. Une vice-présidente de Meta Superintelligence Labs a reconnu dans un message interne que l’entreprise avait commis une erreur en lançant ce test sans mécanisme de divulgation suffisamment clair. La fonction a depuis été retirée temporairement.

Meta semble néanmoins considérer l’intervention humaine comme une façon d’améliorer les performances de Muse. D’après les tests internes rapportés par Reuters, le recours à des agents humains permettait d’atteindre un taux de réussite de 95 à 98 % pour certains appels, alors que les appels entièrement automatisés obtenaient de moins bons résultats. L’entreprise dit travailler avec des commerçants pour améliorer la fonction et assure qu’elle ne sera proposée au public qu’une fois les protections nécessaires et les mécanismes de divulgation en place.

Cette approche rappelle une précédente expérience de Facebook avec l’assistant M dans Messenger. Lancé il y a une dizaine d’années, le service combinait intelligence artificielle et intervention humaine pour effectuer certaines tâches. L’expérience actuelle montre que, malgré les progrès rapides des agents autonomes, des humains peuvent encore jouer un rôle important derrière des services présentés comme automatisés.

La controverse arrive au moment où Muse connaît un départ remarqué. Lancé le 8 septembre, l’assistant de Meta aurait dépassé 2,5 millions de téléchargements aux États-Unis et Canada en deux semaines, selon Sensor Tower. Muse peut envoyer des courriels, magasiner, réserver des voyages et effectuer certaines transactions au nom de l’utilisateur. Il occupe une place centrale dans la stratégie de Meta autour de ce que Mark Zuckerberg appelle la « superintelligence personnelle ».

Source : Reuters

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.