Le milliardaire Elon Musk se retrouve en porte-à-faux avec son propre robot conversationnel. Cette semaine, alors qu’il encourageait encore les internautes à utiliser Grok pour obtenir un « second avis » médical, l’outil développé par xAI a publiquement recommandé l’inverse.

Depuis un an, Musk multiplie les publications invitant les utilisateurs à téléverser leurs données médicales dans Grok afin d’obtenir une analyse complémentaire. Il a relayé plusieurs témoignages de personnes affirmant que l’outil les avait aidées à identifier un problème de santé mal diagnostiqué.

Mais dans les réponses à l’un de ses messages, Grok a précisé qu’il n’était « ni un professionnel de la santé ni conforme à la loi américaine HIPAA » sur la protection des données médicales aux États-Unis. Le robot conversationnel a ajouté qu’il n’était « pas un substitut à un avis médical professionnel » et a déconseillé le partage d’informations sensibles.

Ce décalage a rapidement été souligné par plusieurs internautes, qui ont noté la contradiction entre la promotion de Musk et la mise en garde de son propre système. Le dirigeant n’a pas répondu publiquement au commentaire de l’IA.

Les réserves des experts ne sont pas nouvelles. Des chercheurs ayant évalué des modèles comme ChatGPT ou Llama ont constaté des diagnostics incohérents ou variables selon la formulation des cas. Une analyse rapportée cette semaine par ScienceNews indique que si les robots conversationnels peuvent atteindre jusqu’à 95 % de précision dans des conditions de laboratoire contrôlées, leur performance tomberait sous les 35 % lorsque des patients décrivent eux-mêmes leurs symptômes.

Cela n’empêche pas certains témoignages positifs de circuler. Musk a notamment relayé le cas d’un utilisateur norvégien affirmant que Grok aurait détecté une appendicite rompue que des médecins auraient d’abord mal interprétée. D’autres histoires, associées à ChatGPT, évoquent des alertes précoces liées à la prééclampsie ou à un cancer de la thyroïde.

Selon un sondage de la KFF, un adulte sur six consulte désormais un robot conversationnel au moins une fois par mois pour obtenir de l’information. Une tendance qui soulève autant d’espoirs que d’inquiétudes, alors que l’IA s’invite de plus en plus dans des décisions sensibles comme la santé.

Reste que même Grok le rappelle : ces outils peuvent analyser des données, mais ils ne remplacent pas un médecin.

Source : Forbes, ScienceNews

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.