L’intelligence artificielle peut aider les internautes à détecter plus rapidement de fausses nouvelles, des images manipulées ou des titres trompeurs. Mais une nouvelle étude du Massachusetts Institute of Technology met en lumière un effet moins rassurant : à force de s’appuyer sur les robots conversationnels pour juger ce qui est vrai ou faux, les utilisateurs pourraient perdre une partie de leur capacité à le faire par eux-mêmes.

L’étude, menée sur quatre semaines auprès de 67 participants, s’est intéressée à la manière dont les gens évaluent des paires composées d’un titre d’actualité et d’une image. Les participants devaient déterminer si ces contenus étaient authentiques ou faux, parfois avec l’aide d’un assistant d’IA, parfois sans. L’outil utilisé reposait sur GPT-4o et pouvait aussi consulter Google Search pour guider les réponses.

Le résultat est à double tranchant. Avec l’aide de l’IA, les participants avaient 21 % plus de chances de donner la bonne réponse. À court terme, le robot conversationnel améliorait donc leur capacité à repérer la désinformation. Mais lorsque les chercheurs ont ensuite mesuré leur jugement sans assistance, sur de nouveaux contenus, la performance des participants s’était détériorée. À la quatrième semaine, leur capacité à détecter seuls les fausses nouvelles avait diminué de 15,3 %.

Pour les chercheurs du MIT, le problème ne vient pas seulement de l’utilisation de l’IA, mais de la manière dont elle intervient. Lorsqu’un système donne directement la réponse ou oriente trop fortement l’utilisateur, il favorise la dépendance plutôt que l’apprentissage. Plusieurs participants ont reconnu qu’ils avaient tendance à suivre les suggestions de l’IA parce qu’elle semblait compétente. Environ le quart d’entre eux croyaient même que leurs compétences s’étaient améliorées, alors que les résultats mesurés indiquaient le contraire.

Cette observation rejoint une inquiétude plus large sur le transfert de nos efforts cognitifs vers la technologie. Les calculatrices ont modifié notre rapport au calcul mental. Les GPS ont réduit notre capacité à nous orienter sans assistance. L’IA générative pourrait produire un effet comparable sur le jugement critique, surtout lorsqu’elle est utilisée comme arbitre de vérité plutôt que comme outil de réflexion.

Le sujet est particulièrement sensible dans un contexte où les contenus trompeurs se multiplient. Images générées ou modifiées, rumeurs politiques, fausses affirmations médicales, titres sensationnalistes : les citoyens sont de plus en plus souvent confrontés à des informations dont l’authenticité n’est pas évidente. Les outils d’IA peuvent alors servir de filet de sécurité, mais l’étude suggère qu’ils ne doivent pas remplacer l’effort de vérification personnel.

Les auteurs reconnaissent toutefois les limites de leurs travaux. L’échantillon était relativement restreint et principalement composé de participants provenant des États-Unis et du Royaume-Uni. Une étude plus longue, menée auprès de populations plus diversifiées, serait nécessaire pour déterminer si cette perte d’habileté se confirme dans d’autres contextes culturels et éducatifs.

La conclusion n’est donc pas qu’il faut écarter les robots conversationnels, mais qu’il faut mieux les concevoir et mieux les utiliser. Une IA qui pose des questions, demande de justifier une réponse, attire l’attention sur des indices et pousse l’utilisateur à raisonner pourrait renforcer l’esprit critique. Une IA qui donne simplement une réponse rapide risque, elle, de nous rendre plus dépendants. Dans la lutte contre la désinformation, l’enjeu n’est pas seulement de savoir si la machine voit juste. Il est aussi de savoir si l’humain continue d’apprendre à regarder.

Source : Etude

+++++++

Maintenant, vous pouvez vous assurer de ne rien manquer de mes publications dans vos recherches et de retrouver tout ce que j’ai écrit sur un sujet, simplement en indiquant à Google que Mon Carnet fait partie de vos sources de confiance.

Vous pouvez le faire en cliquant ici :
https://www.google.com/preferences/source?q=moncarnet.com

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.