Pentagone : OpenAI recule et resserre son contrat après la controverse

OpenAI ajuste en urgence son entente avec le département américain de la Défense. Quelques jours après avoir signé un contrat permettant le déploiement de ses modèles d’intelligence artificielle sur des réseaux militaires classifiés, l’entreprise fait face à une vive contestation publique et interne.

Son PDG, Sam Altman, a reconnu que l’annonce avait été précipitée et mal perçue. Dans un message publié sur X (voir plus bas), il affirme que l’entreprise travaille avec le Pentagone pour ajouter des clauses interdisant explicitement l’usage de ses systèmes pour la surveillance domestique de citoyens américains. Il précise également que les services de renseignement, dont la NSA, sont exclus du contrat dans sa forme actuelle.

L’accord initial, conclu vendredi, permettait l’utilisation des modèles d’OpenAI dans des opérations militaires classifiées. Il intervenait quelques heures après l’échec des négociations entre le Pentagone et Anthropic, dont le dirigeant Dario Amodei avait posé deux lignes rouges : interdiction de la surveillance de masse et refus d’un usage dans des armes entièrement autonomes.

La signature de l’entente par OpenAI a déclenché des manifestations devant ses bureaux à San Francisco et à Londres. Des slogans dénonçant la surveillance de masse ont été inscrits à la craie près du siège californien. En parallèle, près de 500 employés d’OpenAI et de Google ont signé une lettre ouverte exprimant leur soutien à la position d’Anthropic.

Altman soutient que son entreprise s’appuie sur les lois existantes, notamment le National Security Act et le FISA Act, pour encadrer l’usage de ses outils. Mais il admet désormais que des garanties contractuelles supplémentaires sont nécessaires afin d’éviter toute ambiguïté sur la collecte de données personnelles et l’éventuelle utilisation dans des systèmes létaux sans supervision humaine.

De son côté, le Pentagone aurait souhaité un accès plus large pour « tout usage légal ». Les discussions avec Anthropic ont achoppé sur la formulation précise entourant la collecte massive de données publiques. Après l’échec des pourparlers, l’administration américaine a annoncé vouloir écarter Anthropic de certains contrats fédéraux.

Au-delà de cet épisode, le débat révèle une fracture grandissante dans l’industrie de l’IA. Faut-il se fier aux cadres juridiques existants ou inscrire noir sur blanc des interdictions spécifiques dans les contrats militaires ? En révisant son entente, OpenAI tente visiblement de concilier impératifs stratégiques et pression éthique, dans un contexte où la frontière entre innovation et responsabilité est scrutée de près.

MISE À JOUR :

Plus tard en après-midi mardi, lors d’une rencontre avec le personnel, Altman a déclaré que, même s’il ne regrettait pas d’avoir signé un accord avec le département de la Défense, il aurait préféré ne pas annoncer la décision aussi rapidement. Il a indiqué à ses employés que cela donnait l’impression d’être « opportuniste » et « en décalage avec le reste du secteur ». Ses commentaires faisaient écho à une note qu’il a partagée avec le personnel et publiée sur X lundi, dans laquelle il écrivait que l’entente « paraissait opportuniste et bâclée ».

Altman a aussi déclaré lors de cette réunion générale que les derniers jours avaient été pénibles. « Essayer si fort de faire la bonne chose et se faire littéralement écraser, personnellement, pour cela, et je sais que vous vivez tous la même chose, alors je me sens vraiment mal de vous exposer à cela, c’est vraiment douloureux. ». « Je pense que c’était un exemple de décision complexe, mais juste, avec des conséquences extrêmement difficiles pour la marque et des retombées médiatiques très négatives pour nous à court terme », a ajouté Altman.

Sources: Financial Times, Business Insider, WSJ