Les hallucinations de l’intelligence artificielle ne sont plus seulement un irritant technique. Elles commencent à s’infiltrer dans les travaux d’experts, les publications scientifiques, les livres, les décisions juridiques et, potentiellement, dans la mémoire permanente du savoir. Le phénomène est d’autant plus préoccupant qu’il ne touche pas seulement des utilisateurs naïfs ou peu formés. Même des spécialistes de l’IA peuvent se faire piéger.

Maxim Topaz, professeur associé à l’École des sciences infirmières de l’Université Columbia, en a fait l’expérience. Habitué à utiliser des outils d’intelligence artificielle pour corriger la grammaire, le formatage et certains détails de ses articles scientifiques, il a découvert qu’un de ces outils avait ajouté silencieusement une référence inventée dans un manuscrit soumis à une revue savante. « I felt deeply embarrassed », a-t-il confié à Fortune. « I’m an AI researcher. I know about hallucinations. If this is happening to me, an AI expert, what happens to other people? »

Cette mésaventure a poussé Maxim Topaz et ses collègues à mesurer l’ampleur du problème dans la littérature biomédicale. Leur étude, publiée dans The Lancet, a porté sur près de 2,5 millions d’articles biomédicaux et 97 millions de citations indexées dans PubMed Central. Le résultat est préoccupant : plus de 4 000 références fabriquées ont été repérées dans près de 3 000 articles. Toutes ne proviennent pas nécessairement de l’IA, mais la hausse devient spectaculaire à partir de 2024, au moment où les outils génératifs se généralisent dans les milieux de recherche.

En trois ans, le taux de références fabriquées dans la littérature biomédicale aurait été multiplié par plus de 12. En 2023, un article sur 2 828 contenait au moins une fausse référence. L’an dernier, la proportion était passée à un article sur 458. Durant les sept premières semaines de 2026, elle atteignait un article sur 277. Pour Maxim Topaz, il ne s’agit probablement que de la partie visible du problème.

Le risque est particulièrement sérieux en médecine, un domaine où la connaissance repose sur une chaîne d’accumulation. Des essais cliniques citent des études antérieures, des revues systématiques agrègent ces essais, puis des lignes directrices médicales s’appuient sur ces revues. Médecins et infirmières utilisent ensuite ces recommandations dans leurs décisions de traitement. Une étude fictive ou une référence inventée placée au début de cette chaîne peut donc contaminer tout ce qui suit.

« This is the evidence chain, that’s how we care for and treat people. If you put the fictional study at the bottom of the stack, the whole structure inherits it », explique Topaz. Le problème n’est donc pas seulement académique. Il peut toucher la qualité des soins, la confiance envers la recherche et la robustesse des décisions fondées sur des preuves.

Le phénomène dépasse largement le monde scientifique. Fortune cite aussi le cas de Steven Rosenbaum, auteur et cinéaste, dont le livre The Future of Truth: How AI Reshapes Reality contenait plusieurs citations inexactes, mal attribuées ou inventées. Selon le New York Times, ces erreurs semblent liées à l’usage d’outils d’IA mentionnés dans les remerciements du livre. Rosenbaum a reconnu les erreurs et décrit l’affaire comme un avertissement sur les risques liés à la recherche et à la vérification assistées par IA.

Le droit est également touché. Le juriste Damien Charlotin recense des décisions judiciaires comportant du contenu inexact généré par IA. Son catalogue aurait atteint 1 459 décisions. Selon Fortune, les cas qui apparaissaient auparavant deux ou trois fois par mois seraient maintenant repérés environ cinq fois par jour. Là encore, le danger vient du fait que les erreurs peuvent ensuite être citées, reprises et amplifiées.

Le cœur du problème tient à la nature même des modèles génératifs. Ils produisent du texte plausible à partir de régularités linguistiques, mais ne garantissent pas l’exactitude des faits. Lorsqu’ils inventent une source, une citation ou une référence, l’erreur peut sembler crédible. Plus l’utilisateur fait confiance à l’outil, plus la vérification risque d’être reléguée au second plan.

Les éditeurs scientifiques, les médias, les cabinets juridiques et les institutions professionnelles ne semblent pas tous préparés au même niveau. Certaines revues utilisent des logiciels de vérification des références ou de détection de texte généré par IA, mais les pratiques varient beaucoup. Dans l’étude de Topaz, 98,4 % des articles contenant de fausses références n’avaient pas été rétractés au moment de l’audit.

Il serait toutefois trop simple de faire de l’IA le seul coupable. Maxim Topaz continue lui-même à utiliser ces outils. Pour lui, le véritable problème n’est pas l’usage de l’IA, mais l’entrée de résultats non vérifiés dans les archives du savoir. « The problem is unverified AI output entering the permanent record », dit-il. « The fix is not to stop using the tools, it’s to build verification into the workflow. »

La leçon est claire : l’IA peut aider à rédiger, synthétiser, corriger et accélérer certaines tâches, mais elle ne remplace pas la vérification. Dans les domaines à fort impact, comme la santé, le droit, la recherche ou le journalisme, cette vérification doit devenir une étape obligatoire, documentée et systématique. Autrement, les erreurs de l’IA risquent de ne plus être de simples hallucinations passagères, mais des briques fragiles intégrées à la construction du savoir.

Source : Fortune

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.

*****

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.