OpenAI a envisagé d’alerter les autorités canadiennes plusieurs mois avant qu’une fusillade ne frappe la petite municipalité de Tumbler Ridge, en Colombie-Britannique. Selon des informations rapportées par le Wall Street Journal, des employés de l’entreprise ont été préoccupés par des échanges tenus en juin dernier sur ChatGPT par Jesse Van Rootselaar, aujourd’hui identifiée comme suspecte dans l’attaque.

Durant plusieurs jours, l’utilisatrice aurait décrit des scénarios impliquant des armes à feu et des actes violents. Ces conversations ont été signalées par un système automatisé de surveillance interne, puis examinées par des employés. Une douzaine de membres du personnel auraient débattu de la marche à suivre, certains estimant que les propos pouvaient annoncer un passage à l’acte et qu’un signalement à la police s’imposait.

La direction d’OpenAI a finalement choisi de ne pas contacter les forces de l’ordre. L’entreprise affirme avoir suspendu le compte concerné, mais jugé que les échanges ne répondaient pas au seuil interne exigeant un risque crédible et imminent de blessures graves pour autrui. Selon sa porte-parole, le signalement aux autorités n’est envisagé que dans de tels cas.

Le 10 février, Jesse Van Rootselaar, 18 ans, a été retrouvée morte sur les lieux d’une fusillade dans une école secondaire de Tumbler Ridge. Huit personnes ont été tuées et au moins 25 autres blessées. La Gendarmerie royale du Canada a confirmé son identité comme suspecte et poursuit l’enquête.

Après avoir pris connaissance du drame, OpenAI indique avoir communiqué avec la GRC et collaborer à l’enquête. L’entreprise souligne entraîner ses modèles à décourager toute violence réelle et à rediriger vers des évaluateurs humains les conversations exprimant une intention de nuire.

L’affaire relance le débat sur la responsabilité des plateformes numériques et des entreprises d’intelligence artificielle. Entre respect de la vie privée, protection des données et prévention des risques, les acteurs du secteur doivent déterminer à quel moment un échange virtuel devient un signal d’alerte suffisant pour justifier l’intervention des autorités.

Les enquêteurs examinent désormais l’empreinte numérique complète de la suspecte. Elle aurait notamment conçu un jeu simulant une fusillade sur la plateforme Roblox, sans qu’il soit diffusé au grand public, et partagé en ligne des contenus liés aux armes à feu. Les autorités analysent aussi ses antécédents policiers et les interventions antérieures liées à sa santé mentale afin d’établir le contexte ayant mené au drame.

Source : wsj

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.