Le chercheur québécois Yoshua Bengio et le professeur de droit américain Lawrence Lessig lancent un appel au Congrès des États-Unis pour qu’il intervienne rapidement dans le développement de l’intelligence artificielle. Dans une tribune publiée hier dans le magazine britannique The Economist, les deux hommes proposent quatre mesures concrètes pour réduire les risques associés aux systèmes d’IA les plus avancés, sans compromettre le leadership technologique américain. Leur message est clair : les entreprises développent des technologies dont elles ne maîtrisent pas encore parfaitement le comportement, et les gouvernements doivent agir avant qu’un incident majeur ne les oblige à intervenir dans l’urgence. Pour les auteurs, les avertissements des chercheurs ont été trop longtemps ignorés par les responsables politiques américains, qui considéraient les scénarios catastrophiques comme de simples hypothèses relevant de la science-fiction.

Le climat politique semble toutefois évoluer à Washington. Bengio et Lessig reviennent notamment sur un incident survenu cet été, au cours duquel un modèle d’OpenAI aurait pénétré la plateforme de développement Hugging Face, ainsi que les déclarations du représentant démocrate Ro Khanna, qui a reconnu avoir sous-estimé les avertissements des spécialistes de la sécurité de l’IA. Des élus des deux partis proposent désormais le FRONTIER Act, un projet visant à encadrer les modèles les plus puissants, tandis que le sénateur Bernie Sanders défend des restrictions encore plus importantes. Les auteurs estiment toutefois que ces initiatives ne répondent qu’à une partie du problème. Selon eux, il serait prématuré de limiter la capacité des États américains à adopter leurs propres règles, et insuffisant de concentrer toute la réglementation sur les modèles les plus avancés.

La première proposition consiste à permettre aux grandes entreprises d’intelligence artificielle de s’entendre pour ralentir temporairement leurs développements lorsque des problèmes de sécurité sont identifiés. Actuellement, de tels accords entre concurrents pourraient soulever des questions au regard des lois américaines sur la concurrence. Bengio et Lessig souhaitent donc que le Congrès clarifie les règles afin de permettre une coopération strictement liée aux enjeux de sécurité, sans autoriser les pratiques anticoncurrentielles. L’objectif serait d’éviter que la rivalité commerciale entre OpenAI, Google, Anthropic et les autres grands laboratoires ne pousse ces entreprises à développer des technologies toujours plus puissantes avant d’avoir suffisamment évalué leurs dangers.

La deuxième mesure touche directement à l’une des grandes inquiétudes de Yoshua Bengio : la possibilité qu’une intelligence artificielle puisse concevoir elle-même des versions toujours plus performantes de ses propres modèles. Ce mécanisme, appelé amélioration récursive autonome, pourrait théoriquement provoquer une accélération considérable des capacités de l’IA, jusqu’à dépasser les moyens humains de surveillance et de contrôle. Les deux auteurs proposent d’interdire le développement de tels systèmes, à partir de certains seuils de capacités, tant qu’un organisme de réglementation comparable à la Food and Drug Administration américaine n’aura pas certifié leur sécurité. Ils reconnaissent que les frontières techniques seront difficiles à définir, mais estiment qu’il serait imprudent d’attendre l’apparition d’une intelligence potentiellement incontrôlable avant de commencer à l’encadrer.

La troisième recommandation vise à responsabiliser financièrement les entreprises qui développent ces technologies. Bengio et Lessig proposent de confirmer leur responsabilité juridique pour les dommages causés par leurs systèmes et de leur imposer une assurance obligatoire. Le principe serait comparable à celui de certains secteurs industriels à haut risque : plus une technologie présente des dangers importants, plus son assurance pourrait coûter cher. Les assureurs auraient ainsi intérêt à examiner les pratiques de sécurité des développeurs et à favoriser les approches moins risquées. Les auteurs reconnaissent toutefois que le marché privé ne pourrait probablement pas couvrir seul les conséquences d’une catastrophe majeure. Ils évoquent donc la possibilité d’un mécanisme soutenu par l’État, inspiré de celui mis en place aux États-Unis pour faciliter le développement de l’énergie nucléaire.

La quatrième proposition concerne la protection des lanceurs d’alerte. Bengio et Lessig souhaitent que les employés des laboratoires d’intelligence artificielle puissent signaler des problèmes de sécurité aux autorités ou aux organismes spécialisés sans craindre de représailles professionnelles. Les protections juridiques existantes visent généralement les dénonciations d’activités illégales, alors que le développement imprudent d’un système d’IA n’enfreint pas nécessairement la loi. Dans un secteur où les entreprises conservent une grande partie de leurs méthodes et de leurs résultats confidentiels, les témoignages internes pourraient jouer un rôle essentiel pour identifier les risques avant qu’ils ne se matérialisent. Les auteurs estiment que cette mesure pourrait notamment rallier des élus républicains traditionnellement favorables à la protection des lanceurs d’alerte.

Au-delà de ces quatre mesures, les deux auteurs contestent l’idée selon laquelle un encadrement plus strict de l’intelligence artificielle américaine profiterait nécessairement à la Chine. Ils rappellent que Pékin impose déjà des règles importantes à son industrie technologique et dispose d’une capacité de calcul inférieure à celle des États-Unis. Selon eux, ralentir certains développements particulièrement dangereux ne signifierait pas abandonner la compétition technologique. Cela pourrait au contraire encourager les entreprises américaines à consacrer davantage de ressources aux applications concrètes de l’IA dans l’industrie et la fabrication, des secteurs où la Chine progresse rapidement. Bengio et Lessig insistent également sur la nécessité d’une coopération internationale. Le Canada, le Royaume-Uni, l’Union européenne, le Japon et la Corée du Sud disposent déjà d’organismes consacrés à l’évaluation des risques de l’IA et participent à des échanges de méthodes et de résultats. Les États-Unis devraient, selon eux, jouer un rôle central dans cette collaboration plutôt que de chercher à tout développer de manière isolée.

Cette intervention s’inscrit dans une série de prises de position récentes de Yoshua Bengio en faveur d’un encadrement plus rigoureux de l’intelligence artificielle. Le chercheur de l’Université de Montréal multiplie les appels pour que les entreprises démontrent la sécurité de leurs systèmes avant de leur accorder davantage d’autonomie. Avec Lawrence Lessig, il demande maintenant aux élus américains de dépasser leurs divisions partisanes pour reconnaître la nature particulière des dangers associés à ces technologies. Les auteurs rappellent que certains chercheurs estiment à 10 % la probabilité d’une catastrophe liée à l’IA pouvant entraîner la disparition de l’humanité. Cette estimation demeure spéculative et ne constitue pas un consensus scientifique, mais elle illustre, selon eux, la gravité des préoccupations exprimées par une partie de la communauté scientifique.

Leur proposition ne consiste pas à arrêter l’innovation, mais à établir des mécanismes de contrôle avant que les progrès technologiques ne dépassent notre capacité à en comprendre et à en maîtriser les conséquences. Pour Bengio, qui a consacré sa carrière à faire avancer l’intelligence artificielle, l’enjeu est désormais de s’assurer que cette technologie demeure au service de l’humanité.

Source : The Economist

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.