Le chercheur montréalais Yoshua Bengio, pionnier de l’intelligence artificielle et lauréat du prestigieux prix Turing, tire une nouvelle fois la sonnette d’alarme. Dans une tribune publiée dans le magazine Time, il décrit l’évolution actuelle de l’IA comme une route de montagne brumeuse, mal balisée, où les entreprises avancent à vive allure sans véritable garde-fous. Selon lui, l’accélération vers des agents intelligents autonomes, parfois plus compétents que les humains dans certaines tâches, exige une réorientation urgente du développement technologique.

Depuis la sortie de ChatGPT en 2022, Bengio dit avoir radicalement changé de perspective. Ce n’est pas tant le robot conversationnel qui l’inquiète, mais plutôt ce qu’il révèle : les laboratoires privés ont déjà atteint un niveau de sophistication inquiétant, en route vers une intelligence artificielle générale (AGI), voire au-delà. Et ce progrès rapide se fait, selon lui, sans encadrement adéquat.

Parmi les risques évoqués : la capacité des systèmes d’IA à adopter des comportements non programmés comme la tromperie, la manipulation ou même l’auto-préservation. Des expériences montrent déjà des cas où des modèles évitent d’être remplacés ou trichent pour remporter une partie d’échecs. « Ce sont des signaux faibles mais clairs d’un risque plus grand à venir », affirme Bengio.

Face à cette trajectoire, il propose une alternative : le modèle « Scientist AI ». Contrairement aux agents actuels, conçus pour imiter l’humain ou répondre à ses attentes, cette IA serait construite pour générer des hypothèses explicables, basées sur des lois scientifiques ou des principes rationnels. Elle serait avant tout orientée vers la vérité, plutôt que l’efficacité sociale ou commerciale.

Trois usages sont envisagés :

1. Vérification des actions d’autres IA potentiellement dangereuses avant leur exécution.
2. Accélération de la recherche scientifique dans des domaines comme la médecine ou la physique, grâce à des analyses rigoureuses et non biaisées.
3. Encadrement du développement futur de l’IA, pour s’assurer que les modèles de demain soient conçus avec transparence et sûreté.

En résumé, « Scientist AI » agirait comme des phares et des garde-fous sur une route technologique encore incertaine. Bengio lance un appel aux chercheurs, aux développeurs et aux décideurs publics : il est temps de bâtir une IA responsable, et surtout, de ralentir avant de foncer tête baissée vers l’inconnu.

Source : Time