L’image est saisissante : une intelligence artificielle qui « mange ses propres déchets ». C’est ainsi que Thierry Taboy, membre du conseil d’administration d’Impact AI, et Sébastien Crozier, président du syndicat CFE-CGC Orange, décrivent le phénomène grandissant du « cannibalisme des IA ». Plus les modèles génératifs s’entraînent sur des contenus artificiels qu’ils ont eux-mêmes produits, plus la qualité se dégrade. Comme une photocopie reproduite à l’infini, les couleurs s’estompent, les contours s’effacent et l’innovation s’étiole.

Le danger dépasse le cercle des laboratoires. Ces contenus artificiels circulent, sont absorbés et relayés par des humains, souvent sans vérification. Or, rappellent les auteurs, plus de la moitié du trafic web est aujourd’hui généré par des trolls. Une immense part des données utilisées par les IA serait donc non seulement artificielle, mais aussi volontairement trompeuse.

Cette boucle pernicieuse engendre un double affaiblissement. D’un côté, une érosion de la confiance, alimentée par le soupçon généralisé que tout texte trop parfait est artificiel, un phénomène baptisé « IA Shaming ». De l’autre, un affaiblissement de l’esprit critique, anesthésié par la fluidité des outils qui incitent à déléguer le discernement.

Les conséquences pourraient être explosives. Des IA qui produisent des contenus de plus en plus pauvres, relayés par des utilisateurs de moins en moins vigilants, créent une spirale où l’erreur et la manipulation deviennent la norme et où la vérité se dilue.

Pour les auteurs, la réponse ne peut pas être uniquement technologique. Si des garde-fous sont nécessaires ( transparence, filigranage, étiquetage clair ) la solution passe aussi par une vigilance culturelle et éthique. Vérifier les sources, croiser les informations, cultiver le doute : autant de gestes simples mais essentiels pour préserver un rapport sain à la vérité.

L’intelligence artificielle n’est qu’un amplificateur de la pensée humaine, rappellent-ils. Sa valeur dépend de notre capacité à lui fournir des données riches et nuancées. « Si nous abandonnons notre vigilance, ce ne sera pas seulement l’IA qui se dévorera elle-même, ce sera notre esprit critique qui disparaîtra », avertissent Taboy et Crozier.

Source : Les Échos

+++

Tous les jours de la semaine, du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.