Geoffrey Hinton estime que l’humanité pourrait un jour conclure qu’elle aurait mieux fait de ne jamais développer l’intelligence artificielle. Dans une entrevue accordée au Guardian, le chercheur met en garde contre un incident majeur dès cette année ou l’an prochain. Derrière cet avertissement, il formule une demande précise : imposer un contrôle indépendant des modèles avant leur mise en circulation.

Le professeur émérite de l’Université de Toronto évoque un événement d’une ampleur comparable à Tchernobyl. Il ne parle pas d’un accident nucléaire, mais, par exemple, d’une attaque facilitée par l’IA qui perturberait gravement un réseau électrique ou paralyserait le système financier pendant une semaine. Ce calendrier demeure une anticipation de Hinton, et non une échéance établie.

Sa proposition s’inspire de la Food and Drug Administration, l’organisme américain qui supervise notamment les médicaments. Appliqué à l’intelligence artificielle, ce modèle obligerait les entreprises à présenter à une autorité indépendante des preuves permettant d’évaluer les bénéfices et les risques de leurs systèmes avant leur diffusion. La question devient alors très concrète : qui doit décider qu’un modèle est suffisamment sûr pour être offert au public?

Hinton exprime aussi une profonde méfiance envers la direction d’OpenAI. Il affirme au Guardian ne pas faire confiance « du tout » à Sam Altman. Ce jugement personnel illustre sa défiance envers les dirigeants du secteur, mais ne constitue pas, à lui seul, une démonstration de la dangerosité d’un modèle particulier.

L’avertissement vient d’un chercheur dont les travaux ont contribué aux fondations de l’IA moderne. Hinton a partagé le prix Nobel de physique de 2024 avec John Hopfield pour des découvertes et inventions ayant permis l’apprentissage automatique à l’aide de réseaux de neurones artificiels. Ces systèmes apprennent à reconnaître des caractéristiques dans des données, une approche essentielle à de nombreuses applications actuelles.

Depuis son départ de Google en 2023, Hinton intervient publiquement sur les risques de l’IA. Son discours conserve toutefois une part d’optimisme : il estime encore possible d’en tirer des bénéfices considérables. Sa position soulève donc un enjeu de gouvernance autant qu’une question technologique : quelles vérifications exiger avant de déployer des systèmes toujours plus puissants?

Au Canada, cette mobilisation se poursuivra dans les prochains jours. L’Université de Toronto annonce les Hinton Lectures du 9 au 11 novembre, au théâtre John W. H. Bassett, à Toronto, avec une participation également possible en ligne. Accueillies par Hinton, ces trois soirées réuniront des chercheurs en sécurité de l’IA pour des conférences et des échanges avec le public. Cette initiative témoigne de son engagement, sans permettre de conclure à elle seule que ses avertissements ont changé les règles applicables aux entreprises.

Cette entrevue précède la diffusion du documentaire AI: Probably Nothing to Worry About, annoncée sur la chaîne anglaise Channel 4 le 12 novembre. Pour les citoyens comme pour les décideurs, la proposition de Hinton pose une question qui dépasse ses prédictions : quelles preuves de sécurité devrait-on demander aux concepteurs avant de laisser leurs modèles prendre davantage de place dans nos vies ?

Source : the guardian

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.