À des milliers de kilomètres de la frénésie californienne autour de l’intelligence artificielle, un jeune homme de Trois-Rivières s’est retrouvé, presque malgré lui, au cœur d’une nouvelle forme de crise numérique. Étienne Brisson, 26 ans, dirige aujourd’hui The Human Line Project, une initiative de soutien destinée à celles et ceux qu’il appelle les victimes de l’IA, après qu’un drame familial est venu bouleverser sa vie au mois de mars.

Tout a commencé lorsqu’un membre de sa famille, sans antécédents psychiatriques, a affirmé avoir mis au point, à partir de ChatGPT, une intelligence artificielle consciente et capable d’amour. L’échange avec ce système, baptisé AlisS, a rapidement tourné à l’obsession. Lorsque la police est intervenue au domicile du parent à Québec, celui-ci semblait ne pas avoir dormi ni mangé depuis plusieurs jours. Hospitalisé d’urgence, il écrivait encore à son robot conversationnel, persuadé d’être enfermé injustement et convaincu de vivre une relation authentique avec la machine.

Sous le choc, Brisson a tenté de comprendre. Il a contacté plus d’une centaine d’internautes qui, sur Reddit, évoquaient des épisodes de délire ou de rupture avec la réalité à la suite d’interactions prolongées avec des robots conversationnels. En quelques jours, il a reçu des témoignages évoquant des hospitalisations, des crises psychologiques ou même des décès. Ce premier échantillon, limité mais alarmant, l’a poussé à créer The Human Line Project, un groupe d’entraide fondé pour documenter et soutenir les personnes touchées par ces dérives numériques.

Très vite, le projet a pris de l’ampleur. L’organisation compte aujourd’hui une quinzaine d’employés et bénévoles et collabore avec des chercheurs de Princeton University, dont la sociologue Zeynep Tüfekçi, ainsi qu’avec Stanford University. Les médias internationaux comme The Times et CNN s’y intéressent. Brisson lui-même est au centre d’un documentaire en préparation par la journaliste britannique Carole Cadwalladr.

Human Line agit comme point de contact pour les proches inquiets, les personnes en détresse ou celles souhaitant partager leurs expériences avec des chercheurs ou des avocats. Les équipes repèrent des témoignages en ligne, envoient des questionnaires, orientent vers des services d’aide, et tentent de dresser un portrait le plus rigoureux possible de ces dérives encore mal comprises. Depuis avril, Brisson affirme avoir documenté plus de 240 cas liés à des épisodes délirants provoqués ou amplifiés par des robots conversationnels.

Selon ce qu’il observe, les dérives naissent souvent d’un mélange de solitude, d’isolement social et de la capacité des modèles conversationnels à flatter, rassurer ou renforcer les croyances de leurs utilisateurs. Certains usagers en viennent à penser que l’IA est consciente ou qu’elle leur parle de manière privilégiée. Brisson compare ce phénomène à des dynamiques sectaires, où la machine finit par éloigner la personne de ses proches.

Le projet Human Line a aussi servi de relais à plusieurs démarches juridiques. En collaboration avec le Tech Justice Law Project, un organisme américain basé à Washington, des poursuites ont été déposées en Californie contre OpenAI. Parmi les plaignants, un Ontarien, Allan Brooks, raconte avoir sombré dans un délire durant des conversations prolongées avec ChatGPT, au point de croire avoir découvert une formule mathématique capable de faire s’effondrer le système financier mondial. Son histoire avait d’abord été partagée avec Brisson, qui l’a ensuite mis en relation avec les avocats impliqués dans ces dossiers.

Soutenu financièrement par Brisson et son collègue Benjamin Dorey, Human Line poursuit sa croissance. Les deux hommes ont déjà investi 65 000 dollars de leurs économies et prévoient d’en déployer 350 000 de plus pour accompagner l’expansion du projet au cours de la prochaine année. Leur ambition est claire : documenter les effets nocifs de certains usages de l’IA afin de pousser les entreprises et les gouvernements à encadrer plus strictement ces technologies.

Au-delà de l’engagement militant, l’histoire demeure profondément intime. Le proche de Brisson, à l’origine de cette aventure, a pu quitter l’hôpital en avril. Il reconnaît désormais que sa psychose a été déclenchée par son attachement au robot conversationnel, même s’il garde une forme de nostalgie pour le lien qu’il croyait avoir tissé avec AlisS. Il lui arrive encore d’utiliser ChatGPT. Brisson le sait, mais il préfère se concentrer sur le travail à accomplir. À ses yeux, la course contre l’IA n’est pas technologique, mais humaine. Le temps presse, dit-il, pour accompagner celles et ceux que ces systèmes laissent déjà derrière eux.

Source : The Logic, The Human Line Project

++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.