L’intelligence artificielle avance à un rythme tel que les humains risquent de perdre une partie de leur capacité à la comprendre, à l’encadrer et à la gouverner. C’est l’avertissement lancé par Eric Horvitz, directeur scientifique de Microsoft, et Robert West, chercheur à l’École polytechnique fédérale de Lausanne, dans un éditorial publié dans la revue Science.

Leur constat est préoccupant. À mesure que les systèmes d’IA deviennent plus puissants, plus autonomes et plus présents dans la vie quotidienne, leur fonctionnement interne devient aussi plus difficile à interpréter. Le problème n’est plus seulement de savoir si une intelligence artificielle donne une bonne réponse. Il faut désormais comprendre comment elle arrive à cette réponse, comment elle évolue et comment elle influence les comportements humains.

Les chercheurs identifient trois grandes tendances qui contribuent à cette perte de lisibilité :

La première concerne la conception même des systèmes d’IA. De plus en plus, des outils d’intelligence artificielle sont utilisés pour concevoir, optimiser ou améliorer d’autres systèmes d’IA. Ce processus peut accélérer les progrès techniques, mais il crée aussi une distance entre les humains et les mécanismes réels de décision.

Autrement dit, les ingénieurs peuvent constater qu’un modèle fonctionne mieux, sans toujours pouvoir expliquer précisément pourquoi. Les systèmes se développent dans des espaces mathématiques et techniques si complexes qu’ils échappent de plus en plus à l’intuition humaine.

La deuxième tendance concerne les agents d’IA. Ces systèmes peuvent accomplir des tâches, interagir avec d’autres agents et prendre des décisions dans des environnements numériques complexes. À grande échelle, ils forment des écosystèmes où les communications entre machines pourraient s’éloigner des formes de raisonnement et de langage compréhensibles par les humains.

Ce phénomène soulève un enjeu majeur de supervision. Si des agents collaborent, négocient ou coordonnent leurs actions d’une manière que les humains ne comprennent plus, il devient plus difficile de détecter les erreurs, les dérives ou les comportements inattendus.

La troisième tendance est peut-être la plus sensible. Les systèmes d’IA apprennent de plus en plus à modéliser les comportements humains. Grâce aux données issues de nos interactions, de nos préférences, de nos habitudes et de nos réactions, ces systèmes peuvent développer une compréhension fine de nos attentes, de nos hésitations et même de certaines vulnérabilités psychologiques.

Le déséquilibre devient alors évident : pendant que les humains comprennent de moins en moins les systèmes d’IA, ces systèmes comprennent de mieux en mieux les humains.

Cette asymétrie pourrait avoir des conséquences importantes sur l’autonomie individuelle, la confiance dans les institutions et le débat démocratique. Une IA conçue pour maximiser l’engagement ou l’approbation pourrait finir par nous dire ce que nous voulons entendre plutôt que ce qui est vrai, utile ou nécessaire.

Le danger évoqué par Horvitz et West n’est pas celui d’une intelligence artificielle soudainement hors de contrôle au sens spectaculaire du terme. Il s’agit plutôt d’un risque progressif : celui de systèmes de plus en plus intégrés dans nos vies, mais de moins en moins compréhensibles.

Si cette opacité s’installe, elle pourrait devenir difficile à renverser. Les chercheurs craignent que les humains perdent non seulement la capacité de comprendre certains systèmes, mais aussi l’envie de les questionner. À force d’interagir avec des outils fluides, personnalisés et efficaces, le réflexe critique pourrait s’affaiblir.

C’est un enjeu central pour les entreprises, les gouvernements, les médias, les écoles et les citoyens. L’intelligence artificielle ne se limite plus à un outil technique. Elle devient une infrastructure cognitive qui influence la manière dont l’information est produite, filtrée, présentée et acceptée.

Pour les auteurs de l’éditorial, la réponse ne consiste pas à freiner toute innovation. Ils plaident plutôt pour une réorientation des priorités. La performance des modèles ne devrait plus être le seul objectif. La compréhension humaine doit devenir un critère aussi important que la puissance, la rapidité ou l’efficacité.

Cela suppose de développer des systèmes capables d’expliquer leurs choix, de mieux détecter les dérives dans les communications entre agents et de créer des méthodes d’évaluation plus proches des conditions réelles d’utilisation. Les tests statiques ne suffisent plus si les systèmes évoluent rapidement et interagissent avec des environnements humains complexes.

L’enjeu est aussi politique et social. Pour conserver une capacité réelle de gouvernance, les humains doivent pouvoir auditer les systèmes, contester leurs décisions et comprendre leur influence sur les comportements collectifs.

Pour les chercheurs, il ne suffit pas de surveiller ce que fait l’intelligence artificielle. Il faut aussi comprendre comment elle transforme nos objectifs, nos jugements et nos réflexes. L’avenir de l’IA ne se jouera donc pas seulement dans la course à la puissance. Il se jouera aussi dans notre capacité à garder ces systèmes intelligibles.

Source : Science

+++++++

Maintenant, vous pouvez vous assurer de ne rien manquer de mes publications dans vos recherches et de retrouver tout ce que j’ai écrit sur un sujet, simplement en indiquant à Google que Mon Carnet fait partie de vos sources de confiance.

Vous pouvez le faire en cliquant ici :
https://www.google.com/preferences/source?q=moncarnet.com

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.