Les entreprises qui confient leurs données, leurs méthodes de travail et leur mémoire à un seul fournisseur d’intelligence artificielle pourraient finir par perdre le contrôle de ce qui les distingue. C’est l’avertissement lancé par Satya Nadella, PDG de Microsoft, lors d’une entrevue diffusée le 26 juillet à l’émission Fareed Zakaria GPS sur CNN.

La déclaration est spectaculaire, mais elle ne signifie pas que l’utilisation de l’IA conduira automatiquement une entreprise à la faillite. Nadella soutient plutôt qu’une organisation risque de cesser d’être véritablement autonome lorsqu’elle externalise progressivement sa capacité de réflexion, sa connaissance interne et ses décisions vers une plateforme qu’elle ne contrôle pas.

Selon lui, chaque interaction avec un système d’IA produit une nouvelle forme de capital. Les requêtes des employés, les documents consultés, les corrections apportées aux réponses et les décisions prises révèlent comment l’entreprise fonctionne, ce qu’elle cherche à accomplir et où se trouve son expertise. Nadella désigne cet ensemble par l’expression « capital de jetons », en référence aux unités de texte traitées par les modèles d’IA.

Le risque ne se limite donc pas au partage de documents confidentiels. Une succession de requêtes peut révéler les priorités stratégiques d’une organisation, ses problèmes opérationnels, ses méthodes de recherche, ses clients et les solutions qu’elle envisage. Une entreprise qui ne conserve pas elle-même ces interactions risque de permettre au fournisseur d’IA d’accumuler davantage de connaissances sur son activité qu’elle n’en conserve dans ses propres systèmes.

« Toute entreprise qui ne possède pas ce contrôle ne restera pas une entreprise, parce qu’elle aura essentiellement externalisé sa pensée », a affirmé Nadella. Il recommande aux organisations de conserver les métadonnées entourant l’utilisation de l’IA afin de pouvoir éventuellement entraîner ou adapter leurs propres modèles.

Le PDG de Microsoft propose également de séparer le modèle d’IA des autres composantes du système, notamment la mémoire, le contexte, les données et les logiciels qui organisent le travail des agents. Une entreprise pourrait ainsi remplacer un modèle par un autre sans perdre l’historique de ses interactions ni reconstruire toute son infrastructure. Cette approche permettrait aussi d’utiliser plusieurs modèles selon leurs forces, plutôt que de dépendre entièrement d’un seul fournisseur.

Une passerelle d’IA peut jouer ce rôle d’intermédiaire. Elle centralise l’accès aux différents modèles, applique les règles de sécurité, mesure la consommation et contrôle les données qui peuvent être transmises. La documentation de Microsoft indique que sa propre passerelle Azure peut gérer des modèles provenant notamment d’OpenAI, d’Anthropic et de Google, ainsi que des modèles installés directement par l’entreprise.

La stratégie prônée par Nadella correspond étroitement aux intérêts commerciaux de Microsoft. Son entreprise vend précisément les infrastructures infonuagiques, les services de gouvernance et les outils permettant de déployer plusieurs modèles. Microsoft Foundry propose un catalogue regroupant des systèmes conçus par Microsoft, OpenAI, Anthropic, Meta, Mistral, Cohere, DeepSeek et d’autres fournisseurs.

Cette convergence d’intérêts ne rend pas nécessairement l’avertissement invalide. Elle oblige cependant à le replacer dans son contexte. Microsoft cherche à convaincre les entreprises de ne pas dépendre directement des plateformes d’OpenAI, d’Anthropic ou d’autres laboratoires, tout en leur proposant de centraliser leurs activités d’IA dans son propre environnement Azure.

Microsoft affirme que, pour les modèles qu’elle vend et héberge directement dans Azure, les requêtes, les réponses et les données d’entraînement des clients ne sont pas accessibles aux autres clients ni aux fournisseurs des modèles. La société précise également que ces informations ne servent pas à entraîner les modèles de fondation sans l’autorisation du client. Certaines fonctions peuvent toutefois conserver l’historique ou les contenus lorsque le client active des services avec mémoire, traitement par lots ou ajustement personnalisé.

L’avertissement vise particulièrement les agents d’IA, capables d’accéder aux courriels, aux documents, aux applications commerciales et aux bases de données d’une organisation. Plus ces agents accomplissent de tâches, plus ils peuvent enregistrer une représentation détaillée des activités de l’entreprise. Une dépendance technique envers leur fournisseur devient alors beaucoup plus difficile à renverser qu’un simple abonnement à un logiciel.

Le danger n’est donc pas seulement qu’un laboratoire d’IA copie directement une entreprise. Il réside aussi dans la perte graduelle de ses compétences internes. Lorsqu’une organisation ne sait plus comment ses recommandations sont produites, ne conserve pas ses propres données d’utilisation et ne peut pas remplacer facilement son fournisseur, elle devient vulnérable aux hausses de prix, aux changements de conditions, aux interruptions de service ou à la disparition d’un modèle.

L’enjeu rappelle les anciennes stratégies de dépendance aux plateformes infonuagiques, mais avec une différence majeure. Les systèmes d’IA ne stockent pas seulement les fichiers d’une entreprise. Ils peuvent également participer à son raisonnement, influencer ses décisions et apprendre la structure de ses processus.

Les entreprises n’ont pas nécessairement besoin de concevoir entièrement leur propre modèle d’IA. Elles doivent toutefois savoir quelles informations sont transmises, où elles sont conservées, qui peut y accéder et comment leurs outils pourraient continuer à fonctionner si un fournisseur disparaissait.

L’adoption de l’intelligence artificielle ne menace donc pas la survie d’une entreprise simplement parce qu’elle utilise trop d’IA. Le véritable risque apparaît lorsqu’elle abandonne en même temps la maîtrise de ses données, de sa mémoire organisationnelle et de ses capacités de décision.

Sources : cnn, futurism

+++++++

+++++++

Du lundi au vendredi, Bruno Guglielminetti vous propose un regard sur l’essentiel de l’actualité numérique avec 120 secondes de Tech.

Ou encore…

Écoutez la plus récente édition de Mon Carnet,
le magazine hebdomadaire de l’actualité numérique.