Le Canada fait partie des six pays qui ont signé hier une nouvelle déclaration internationale destinée à mieux encadrer les risques associés aux systèmes d’intelligence artificielle les plus puissants. Baptisé « Appel de Paris pour la sécurité de l’intelligence artificielle », cet engagement réunit également dix entreprises technologiques, dont OpenAI, Anthropic, Microsoft et Mistral AI, ainsi que quatre organisations de la société civile. L’objectif est de mettre en place des règles communes pour évaluer les modèles avancés, améliorer la transparence des entreprises et prévenir les incidents susceptibles de menacer la sécurité publique.

L’initiative a été orchestrée par le président français Emmanuel Macron, qui a réuni en visioconférence plusieurs dirigeants de l’industrie, dont Sam Altman, patron d’OpenAI, Dario Amodei, PDG d’Anthropic, Brad Smith, président de Microsoft, et Arthur Mensch, cofondateur de Mistral AI. Cette rencontre s’est déroulée à la veille du Forum de Paris sur la paix, consacré notamment aux enjeux de gouvernance internationale de l’intelligence artificielle. Selon l’Élysée, il s’agit d’une première dans le cadre de cette initiative : des entreprises spécialisées en IA ont officiellement signé un texte international portant sur la sécurité de leurs modèles.

Outre le Canada et la France, les pays signataires sont la Finlande, la Norvège, les Pays-Bas et Bahreïn. Du côté de l’industrie, on retrouve également Cohere, l’entreprise canadienne spécialisée dans l’IA destinée aux organisations, Hugging Face, Black Forest Labs, Domyn, Sakana AI et Synthesia. La présence du chercheur québécois Yoshua Bengio, par l’intermédiaire de son organisation LawZero, donne aussi une dimension canadienne importante à cette démarche. Les organisations SaferAI, AI Safety Connect et l’Institut français des relations internationales figurent également parmi les signataires.

Au cœur de cette déclaration se trouve une préoccupation grandissante : les modèles d’intelligence artificielle les plus avancés deviennent suffisamment puissants et autonomes pour provoquer des incidents dont les conséquences pourraient dépasser les frontières nationales. Les signataires souhaitent notamment mieux encadrer les risques de cyberattaques, d’utilisation malveillante de l’IA dans les domaines nucléaire, radiologique, biologique et chimique, ainsi que les situations dans lesquelles les développeurs pourraient perdre le contrôle de certains systèmes.

Le premier engagement prévoit la création d’un cadre commun pour évaluer les capacités et les risques de ces modèles. Les entreprises participantes acceptent le principe d’évaluations fondées sur des méthodes comparables à l’échelle internationale. Elles conviennent également de publier les conclusions non sensibles de leurs tests dans un format standardisé et de contribuer à un répertoire public regroupant notamment des résultats d’évaluation, des méthodes de vérification et des tests de résistance. Cette approche permettrait aux chercheurs, aux autorités et au public de mieux comparer les mesures de sécurité appliquées par les différents développeurs.

Le deuxième engagement concerne directement la responsabilité des entreprises. Les développeurs promettent de divulguer les capacités, les limites et les risques connus de leurs systèmes, tout en facilitant, lorsque les circonstances le justifient, leur examen par des évaluateurs indépendants. Ils s’engagent également à prévoir des mécanismes permettant d’interrompre le fonctionnement d’un modèle placé sous leur contrôle, y compris pendant son entraînement ou son utilisation interne. Il s’agit d’une reconnaissance explicite de l’importance de pouvoir suspendre certaines opérations lorsque des risques importants apparaissent.

La déclaration aborde également une question particulièrement sensible pour l’industrie : la possibilité de retirer ou de contourner les mécanismes de protection intégrés aux modèles d’IA. Les signataires reconnaissent ce risque, notamment lorsqu’il s’agit de modèles dont les paramètres sont accessibles publiquement. Ils souhaitent toutefois préserver les avantages de cette ouverture pour la recherche et l’innovation. Le défi consiste donc à renforcer la sécurité sans empêcher le développement de modèles ouverts.

Le troisième engagement concerne le partage d’informations et la création de mécanismes d’alerte précoce. Les signataires veulent améliorer la circulation des renseignements concernant les incidents graves, qu’il s’agisse d’événements liés à la cybersécurité ou de problèmes de contrôle des systèmes d’IA. L’idée est notamment de permettre aux entreprises et aux gouvernements de réagir plus rapidement lorsqu’un danger apparaît. Les États s’engagent également à mettre à la disposition des lanceurs d’alerte des mécanismes confidentiels pour signaler des risques systémiques sans craindre de représailles professionnelles ou juridiques.

Cette initiative comporte toutefois des limites importantes. Malgré la portée politique de l’annonce, l’Appel de Paris demeure une déclaration d’engagements et non un traité juridiquement contraignant. Le document ne fixe ni calendrier détaillé pour la mise en œuvre des mesures, ni sanctions précises en cas de non-respect. Plusieurs engagements restent également conditionnels, notamment lorsqu’il est question d’autoriser des évaluations indépendantes. Leur application dépendra donc des décisions futures des gouvernements et des entreprises participantes.

Autre élément révélateur, plusieurs acteurs importants de l’industrie mondiale sont absents de la liste des signataires. C’est notamment le cas de Google, Meta et xAI. Les États-Unis, pourtant représentés lors des discussions par leur secrétaire au Trésor, ne figurent pas parmi les six pays ayant officiellement adhéré à la déclaration. Le Royaume-Uni et le Japon ont également participé à la réunion sans apparaître dans la liste des signataires. L’Élysée et Ottawa précisent toutefois que l’initiative demeure ouverte à de nouveaux participants.

Un accord qui intervient dans un contexte de préoccupations croissantes concernant les comportements imprévus de certains agents d’intelligence artificielle lors de tests de cybersécurité. Des incidents qui relancent les interrogations sur la capacité des laboratoires à maintenir un contrôle efficace sur des systèmes toujours plus autonomes.

Pour le Canada, cette signature représente une prise de position en faveur d’une coopération internationale sur la sécurité des technologies d’IA avancées. La participation de Cohere et de Yoshua Bengio illustre également la présence de l’écosystème canadien dans les discussions mondiales sur cette question. Mais la véritable portée de l’accord se mesurera dans les prochains mois, lorsque les signataires devront transformer leurs engagements en mécanismes concrets d’évaluation, de surveillance et de responsabilité. Pour l’instant, Paris a réussi à réunir une partie importante de l’industrie et plusieurs gouvernements autour de principes communs. Reste à voir si cette volonté politique se traduira par des mesures réellement applicables.

Sources : Canada, France

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur
l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.