Google annonce une mise à jour importante de Gemini pour mieux orienter les personnes en détresse psychologique vers de l’aide humaine. L’entreprise dit vouloir simplifier l’accès aux ressources de crise, tout en renforçant les garde-fous de son assistant conversationnel lorsque des échanges laissent croire qu’un utilisateur traverse une situation aiguë.

Concrètement, Gemini affichera désormais un module d’aide repensé lorsqu’une conversation évoque un enjeu de santé mentale. Dans les cas jugés plus graves, notamment lorsqu’il est question de suicide ou d’automutilation, l’interface offrira un accès direct, en un geste, à des lignes d’écoute et de soutien, par appel, texto, clavardage ou via un site spécialisé.

Google affirme aussi vouloir éviter deux écueils. D’un côté, l’entreprise dit chercher à ne pas valider des comportements dangereux. De l’autre, elle veut éviter les réponses abruptes qui ferment la conversation sans orienter la personne vers une aide concrète. Des responsables de Google expliquent que l’objectif est d’encourager une démarche vers un soutien professionnel, sans donner l’impression d’abandonner l’utilisateur.

Le groupe annonce en parallèle un investissement mondial de 30 millions de dollars sur trois ans pour soutenir les lignes de crise. Une partie de cet effort passera aussi par ReflexAI, un organisme avec lequel Google étend son partenariat. L’idée est d’utiliser Gemini pour entraîner des intervenants et des bénévoles à gérer des conversations difficiles grâce à des simulations alimentées par l’intelligence artificielle.

Google rappelle que ses équipes travaillent sur ces questions depuis des années, notamment dans la recherche en ligne, où des encadrés d’urgence existent déjà pour certains termes associés à la détresse psychologique. Avec Gemini, l’entreprise adapte cette logique à un environnement conversationnel, plus intime, plus nuancé, mais aussi plus délicat à encadrer.

L’entreprise insiste aussi sur la protection des plus jeunes. Google dit maintenir des garde-fous pour éviter que Gemini adopte une posture de compagnon affectif, simule une intimité ou encourage des formes de dépendance émotionnelle. Des protections supplémentaires visent aussi à limiter les réponses liées au harcèlement et à d’autres sujets sensibles impliquant des mineurs.

Au fond, Google cherche ici à positionner son IA non pas comme une solution thérapeutique, mais comme un relais vers le monde réel. Un message qui en dit long sur la limite que l’entreprise veut tracer, alors que de plus en plus d’usagers se tournent vers les outils génératifs pour parler de santé mentale, parfois dans leurs moments les plus vulnérables.

Source : Google

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.