Invité à l’émission Newsnight de la BBC, Yoshua Bengio a livré une mise en garde particulièrement frappante sur l’évolution de l’intelligence artificielle, en mettant l’accent sur un risque très concret : celui d’outils de plus en plus puissants capables de fragiliser la cybersécurité mondiale. Face à Victoria Derbyshire, le chercheur montréalais n’a pas seulement parlé d’un danger théorique ou d’un horizon lointain. Il a décrit une menace déjà visible, portée par des systèmes qui peuvent faciliter des attaques informatiques, exposer des vulnérabilités critiques et amplifier le pouvoir de nuisance d’acteurs malveillants.

Le moment le plus fort de l’entretien survient lorsque la journaliste l’interroge sur Claude Mythos, présenté comme le prochain grand modèle d’Anthropic, dont les capacités en cybersécurité suscitent déjà inquiétude et consternation. Dans l’échange, Victoria Derbyshire évoque un système capable d’exploiter des vulnérabilités dans les grands systèmes d’exploitation et les principaux navigateurs Web. Bengio ne minimise pas la portée d’un tel outil. Au contraire, il explique que le risque principal est de rendre plus facile l’attaque de systèmes informatiques qui sont partout autour de nous et qui pilotent une partie essentielle de nos institutions et de nos infrastructures.

Ce que Bengio décrit est inquiétant pour une raison simple : l’IA ne se limite plus à produire du texte, à résumer des documents ou à générer des images. Elle peut désormais servir à repérer des failles logicielles, notamment dans des logiciels libres accessibles à tous, puis à accélérer leur exploitation. Autrement dit, des tâches auparavant réservées à des spécialistes chevronnés deviennent plus accessibles, plus rapides et potentiellement plus massives. Le chercheur insiste sur ce point : des personnes ordinaires, sans expertise avancée, pourraient finir par disposer d’outils leur permettant de causer des dommages considérables.

Dans sa réponse, Bengio élargit immédiatement le cadre. Pour lui, Mythos n’est pas un accident isolé ni une aberration technique. C’est un jalon dans une trajectoire plus large, celle d’une montée continue des capacités des systèmes d’intelligence artificielle. Il le dit clairement : ce que l’on voit aujourd’hui n’est que la pointe de l’iceberg. La vraie question n’est donc pas seulement de savoir ce que Mythos peut faire maintenant, mais ce que les modèles de la prochaine génération seront capables de faire dans six mois, dans deux ans ou dans cinq ans. C’est cette logique d’accélération qui l’inquiète le plus.

Ce passage est central, car il déplace la discussion. Bengio ne parle pas simplement d’un outil dangereux. Il parle d’une dynamique industrielle et technologique qui avance plus vite que les mécanismes de contrôle public. Dans ce contexte, la cybersécurité cesse d’être un sujet réservé aux spécialistes des réseaux ou aux équipes de réponse aux incidents. Elle devient une question politique, économique et démocratique. Si des IA peuvent faciliter des intrusions dans des systèmes qui gèrent les communications, l’énergie, les services publics ou les grandes organisations, c’est toute la résilience des sociétés qui entre dans l’équation.

Bengio relie aussi cette menace à une réalité géopolitique. Il dit craindre l’usage abusif du pouvoir que procure l’intelligence artificielle, que ce soit par des gouvernements qui ne se font pas confiance, par des entreprises prêtes à prendre des risques pour garder leur avance, ou par des groupes criminels. L’angle cybersécurité, dans son discours, n’est donc pas séparé du reste. Il s’inscrit dans une réflexion plus large sur la concentration du pouvoir technologique et sur le fait qu’une poignée d’acteurs pourraient prendre des décisions structurantes pour tout le monde, sans véritable contrôle démocratique.

L’un des aspects les plus frappants de l’entrevue est le ton employé par Bengio. À un moment, après que Victoria Derbyshire résume la situation comme quelque chose de terrifiant, il répond en substance que cette peur est justifiée, justement parce que le problème n’est pas pris suffisamment au sérieux. Il reproche l’absence de discussions collectives, tant à l’échelle nationale qu’internationale, sur la manière de canaliser cette puissance technique dans une direction bénéfique pour le public. Cette remarque donne à l’échange une portée particulière : l’enjeu n’est plus seulement de savoir si l’innovation avance, mais de déterminer qui fixe les limites, qui évalue les risques et qui décide du moment où un système peut être déployé.

L’entretien met également en lumière un déséquilibre qui risque de devenir explosif. Bengio note qu’à l’heure actuelle, ceux qui bénéficient le plus de ces technologies pour protéger leurs systèmes sont surtout quelques grandes entreprises américaines. Il pose alors une question de gouvernance fondamentale : qui décide réellement de l’usage de ces systèmes? Selon lui, une telle responsabilité ne devrait pas relever de la seule bonne volonté de dirigeants d’entreprise. Elle devrait être assumée par les gouvernements et par des organisations multilatérales capables d’imposer des règles communes, des obligations de transparence et des évaluations sérieuses avant diffusion.

Ce point est d’autant plus important que, dans la logique décrite par Bengio, une fois qu’un système de cette ampleur est mis en circulation, il devient impossible de revenir complètement en arrière. On ne peut pas effacer la connaissance technique qui a été créée. On ne peut pas faire comme si les capacités n’existaient pas. Dès lors, l’enjeu n’est plus la prévention absolue, mais la vitesse et la rigueur de la réponse publique. Plus les autorités tardent, plus le décalage s’agrandit entre la puissance des outils et la capacité des institutions à les surveiller.

En filigrane, l’intervention de Bengio contient aussi une critique du discours dominant sur l’IA, souvent centré sur la productivité, l’assistance ou les gains d’efficacité. À la BBC, il rappelle qu’une intelligence plus performante, c’est aussi une intelligence qui peut servir à trouver plus vite des failles, à planifier des attaques plus efficacement et à mettre entre les mains de non-experts des moyens d’action qui étaient jusque-là beaucoup plus difficiles d’accès. C’est cette banalisation potentielle du risque qui donne à son propos une résonance particulière. La cybersécurité n’est plus seulement menacée par quelques groupes hautement qualifiés. Elle pourrait l’être par un élargissement brutal des capacités offensives.

Source :

******

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.