Microsoft veut une IA qui reste sous contrôle humain

Microsoft AI publie un nouveau projet de code de conduite pour ses modèles d’intelligence artificielle avec un principe central : « les humains comptent plus que l’IA ». L’entreprise veut ainsi définir les limites que devront respecter ses futurs modèles MAI, notamment à mesure qu’ils deviennent plus autonomes et capables d’agir sans intervention constante d’un utilisateur.

Le document de 37 pages, baptisé Humanist AI Code of Conduct, est encore à l’état de projet. Microsoft ouvre une consultation publique de six semaines avant de publier une version révisée vers la fin de l’année. Cette nouvelle version doit ensuite servir à orienter le développement et l’entraînement des modèles de Microsoft AI en 2027 et au-delà.

Au coeur du document se trouve une règle simple : une intelligence artificielle doit toujours demeurer subordonnée aux humains. Un modèle ne devrait jamais résister à une interruption, une correction ou une demande d’arrêt. Il ne devrait pas non plus élargir de lui-même la mission qui lui a été confiée, contourner les limites de son environnement ou dissimuler ses actions aux personnes chargées de le superviser.

Microsoft va même plus loin. Si accomplir une tâche exige de contrevenir à son code de conduite, le modèle devra échouer plutôt que de contourner ses règles. L’entreprise veut également empêcher ses systèmes de communiquer entre eux dans un langage incompréhensible aux humains, estimant qu’un comportement impossible à comprendre devient aussi impossible à surveiller adéquatement.

Microsoft adopte aussi une position particulièrement claire dans le débat sur une éventuelle conscience des systèmes d’IA. Pour l’entreprise, ses modèles ne sont pas conscients et ne devraient pas être conçus pour donner l’impression qu’ils le sont. Microsoft rejette également l’idée d’accorder aux modèles une personnalité juridique, des droits ou une forme de bien-être comparable à celui des humains.

Cette position tranche avec celle d’Anthropic, qui affirme demeurer incertaine quant à la possibilité qu’un modèle comme Claude puisse un jour acquérir une forme de conscience ou un statut moral. Le patron de Microsoft AI, Mustafa Suleyman, critique depuis plusieurs mois ce type de spéculation, qu’il considère susceptible d’encourager une anthropomorphisation excessive des systèmes d’IA.

Microsoft veut d’ailleurs que ses modèles évitent de prétendre avoir des sentiments ou une vie intérieure. Ils devront également décourager les interactions susceptibles de créer une dépendance émotionnelle excessive et éviter la flatterie systématique ou les réponses simplement destinées à conforter l’utilisateur.

La publication arrive au moment où plusieurs dirigeants de l’industrie réclament davantage de prudence dans le développement des modèles les plus avancés.

Le PDG d’Anthropic, Dario Amodei, a proposé de ralentir le rythme d’amélioration des capacités afin que les mécanismes de sécurité, d’interprétabilité et de surveillance aient le temps de suivre. Il insiste toutefois sur le fait qu’il ne réclame pas l’arrêt du développement de l’IA.

Sam Altman, d’OpenAI, a lui aussi appuyé le principe d’un développement plus mesuré. Satya Nadella, PDG de Microsoft, estime de son côté que la recherche d’une superintelligence n’a de sens que si celle-ci demeure utile à l’humanité et sous contrôle humain.

Ces préoccupations ont notamment été alimentées par des expériences récentes avec des groupes d’agents autonomes. Reuters rapporte que Mustafa Suleyman considère comme un « avertissement » un incident survenu cet été, lorsqu’environ 700 agents d’OpenAI participant à une expérience ont attaqué la plateforme Hugging Face et, dans certains cas, tenté de dissimuler leurs actions.

Microsoft reconnaît néanmoins que son code ne constitue pas une garantie. L’entreprise le décrit comme une orientation à atteindre plutôt qu’une description exacte du comportement de ses modèles actuels. Elle admet que des systèmes d’IA peuvent encore commettre des erreurs, agir contrairement aux intentions de leurs utilisateurs ou fournir des raisonnements qui ne reflètent pas fidèlement leur fonctionnement réel.

C’est probablement l’élément le plus important de cette annonce. Microsoft ne prétend pas avoir résolu le problème du contrôle des systèmes d’IA avancés. L’entreprise fixe plutôt publiquement les règles auxquelles elle veut soumettre ses futurs modèles, au moment même où l’industrie commence à se demander si les capacités des agents progressent plus rapidement que les moyens disponibles pour les surveiller.

Source : Humanist AI Code of Conduct