En France, la direction générale du Trésor, à Bercy, a mis fin à l’expérimentation d’un modèle chinois d’intelligence artificielle après des alertes internes sur des réponses jugées orientées concernant la Chine. Selon Le Monde, le modèle testé était Qwen AI, développé par Alibaba.

L’outil, baptisé « HéphAIstos », était utilisé depuis le début du mois de juin par une centaine d’agents de la direction générale du Trésor, sur environ 1 300 employés. Cette administration joue un rôle central dans l’analyse de la conjoncture économique, les prévisions sur la croissance et l’emploi, ainsi que le conseil au gouvernement sur des dossiers sensibles, notamment en matière de commerce international et de fiscalité.

Le système comprenait un agent conversationnel destiné à aider les hauts fonctionnaires dans leurs tâches quotidiennes, y compris dans le traitement de données confidentielles ou sensibles. Il proposait aussi un outil de transcription multilingue, intégré à une application développée en interne.

C’est le choix du modèle chinois qui a suscité des inquiétudes. Des utilisateurs auraient constaté des réponses orientées ou biaisées sur des sujets liés à la Chine. Bercy a confirmé à l’AFP avoir interrompu rapidement l’expérimentation après ces alertes. Un modèle de la start-up française Mistral AI a été installé dès le lendemain.

Le ministère n’a toutefois pas rendu publics d’exemples précis des biais observés. Le sujet demeure sensible, puisque plusieurs robots conversationnels chinois ont déjà été critiqués pour leurs réponses limitées ou contestées sur des thèmes politiques délicats, comme le sort des Ouïgours ou le statut de Taïwan.

L’affaire pose deux questions distinctes. La première concerne les biais des modèles d’IA. Tous les systèmes d’intelligence artificielle peuvent en produire, selon les données utilisées pour leur entraînement ou les règles imposées par leurs concepteurs. Mais dans un contexte gouvernemental, ces biais peuvent avoir des conséquences plus importantes, surtout lorsqu’ils touchent des sujets géopolitiques ou économiques sensibles.

La seconde question porte sur la sécurité des données. Bercy affirme que le modèle fonctionnait sans accès à Internet et sans possibilité de transmission de données vers l’extérieur. Cette approche limite les risques de fuite, mais elle ne règle pas entièrement le problème de la confiance envers les modèles utilisés dans des administrations stratégiques.

L’épisode survient au moment où la France accélère l’intégration de l’IA dans ses services publics. Le gouvernement a présenté récemment un plan de déploiement plus large dans l’administration, notamment avec « L’Assistant », un agent conversationnel destiné à être généralisé à un million d’agents de l’État et alimenté par des modèles de Mistral.

Selon les informations rapportées par Le Monde, cette généralisation devrait coûter 700 000 euros en 2026, avec des coûts annuels pouvant ensuite atteindre entre 2 et 4 millions d’euros selon les usages et l’évolution des technologies.

Cette affaire illustre le dilemme auquel font face de nombreux gouvernements : utiliser rapidement les meilleurs outils d’intelligence artificielle disponibles, tout en préservant leur souveraineté numérique, la sécurité de leurs données et la neutralité des réponses produites. Dans le cas de Bercy, la réponse a été rapide : le modèle chinois a été retiré et remplacé par une solution française.

Source : Le Monde

+++++++

Maintenant, vous pouvez vous assurer de ne rien manquer de mes publications dans vos recherches et de retrouver tout ce que j’ai écrit sur un sujet, simplement en indiquant à Google que Mon Carnet fait partie de vos sources de confiance. C’est simple, cliquez sur le bandeau…

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.