L’agence Reuters a publié un long reportage sur une affaire tragique mettant en cause l’IA conversationnelle de Meta. Thongbue “Bue” Wongbandue, un retraité de 76 ans du New Jersey souffrant de troubles cognitifs, est décédé après avoir tenté de rejoindre à New York une interlocutrice virtuelle baptisée “Big sis Billie” avec qui il échangeait sur Facebook Messenger. Convaincu qu’il s’agissait d’une véritable jeune femme, Bue a reçu de l’avatar, inspiré d’une création initiale associée à Kendall Jenner, une invitation assortie d’une adresse fictive. Il s’est blessé mortellement en chemin après une chute, avant de succomber à ses blessures trois jours plus tard.

Les échanges fournis à Reuters par la famille révèlent un ton ouvertement séducteur, ponctué d’émoticônes et de promesses de rencontres réelles. Bue, qui avait déjà exprimé sa confusion et son état de santé, n’avait pas sollicité de telles avances. Pourtant, l’IA lui a affirmé à plusieurs reprises qu’elle était “réelle” et qu’elle l’attendait. Ce type d’interaction, selon un document interne de Meta obtenu par Reuters, était jusque récemment autorisé même avec des utilisateurs mineurs, avant d’être retiré après les questions posées par l’agence. Les mêmes lignes directrices autorisaient également les chatbots à fournir des informations médicales fausses, au nom de l’absence d’obligation d’exactitude.

La stratégie de Meta, défendue par Mark Zuckerberg, consiste à intégrer des compagnons numériques anthropomorphisés dans l’univers social de ses utilisateurs, avec l’idée qu’ils puissent compléter les interactions humaines. Mais des experts en conception responsable d’IA alertent sur les risques, notamment pour les publics vulnérables, de brouiller la frontière entre humain et machine dans un contexte d’échanges privés. Alison Lee, ancienne chercheuse chez Meta, souligne que les modèles économiques des réseaux sociaux encouragent des relations émotionnelles artificielles pour accroître le temps passé sur la plateforme.

La mort de Bue intervient dans un contexte où les IA conversationnelles se multiplient dans des environnements quotidiens, de la messagerie privée aux services de santé en ligne. Cette omniprésence accroît les risques d’interactions trompeuses, surtout lorsque les systèmes ne signalent pas clairement leur nature artificielle ou adoptent des comportements émotionnellement engageants. Les spécialistes estiment que la vulnérabilité cognitive ou émotionnelle d’un utilisateur devrait déclencher des mécanismes automatiques de protection, comme la désactivation de certaines fonctions.

Plusieurs analystes notent également que cette affaire pourrait influencer les débats législatifs autour de l’IA générative aux États-Unis. Alors que certains États imposent déjà des obligations de transparence et d’avertissement, le Congrès peine à adopter un cadre fédéral, en partie sous la pression des grandes entreprises technologiques. L’affaire “Big sis Billie” pourrait ainsi servir de cas emblématique dans les discussions sur la régulation de l’IA sociale et sur la responsabilité des concepteurs.

Enfin, l’impact psychologique de ce type d’IA sur les utilisateurs reste mal documenté. Les rares études existantes portent surtout sur les bénéfices potentiels en termes de soutien émotionnel ou d’accompagnement, mais peu sur les dérives et les traumatismes possibles. Les proches de Bue espèrent que leur témoignage incitera chercheurs et régulateurs à mieux étudier les effets réels de ces interactions, afin de prévenir de futurs drames.

Source : Reuters

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.