OpenAI, Défense américaine et limites de la surveillance

Sam Altman ne donne pas habituellement l'impression d'un dirigeant qui se prépare à un affrontement judiciaire. Cette fois, son ton était différent et plus combatif.

Après la polémique suscitée par la révélation du travail d'OpenAI avec le ministère de la Défense des États-Unis, le CEO affirme que la société va réécrire son accord pour rendre un point impossible à ignorer : les systèmes d'IA d'OpenAI ne doivent pas être utilisés pour la surveillance de masse des citoyens américains.

Altman a publié une note interne — initialement envoyée au personnel — exposant ce changement. Selon lui, la formulation actualisée interdira explicitement la surveillance domestique intentionnelle des personnes et nationaux américains, en reliant cette restriction aux garde-fous juridiques existants comme le quatrième amendement, le National Security Act et la Foreign Intelligence Surveillance Act (FISA).

La formulation proposée dans la note est inhabituellement directe pour un contractant gouvernemental. Elle stipule que, conformément au droit américain applicable, le système d'IA "ne doit pas être utilisé intentionnellement pour la surveillance intérieure des personnes et nationaux américains". Elle ajoute également une précision destinée à fermer les échappatoires, en soulignant que l'interdiction englobe le suivi ou la surveillance délibérée, y compris lorsqu'elle est alimentée par des informations personnelles ou identifiables achetées sur le marché.

Un ajustement contractuel et une ligne de démarcation

Altman affirme par ailleurs que le ministère de la Défense a confirmé un autre point qui inquiétait immédiatement les critiques : les services d'OpenAI ne seront pas redirigés vers des agences du renseignement américaines comme la NSA dans le cadre de l'accord actuel. Si cela devait changer, dit-il, il faudrait modifier le contrat.

La phrase qui s'est rapidement répandue dans les médias était la suivante : Altman a écrit que s'il recevait un ordre qu'il estimait inconstitutionnel, il préférerait aller en prison plutôt que d'y obéir. C'est une formulation dramatique, certes, mais c'est aussi le signal qu'OpenAI cherche à tracer une frontière nette entre "travail de défense" et "surveillance intérieure", une distinction qui tend à s'estomper dès que l'IA entre en jeu.

Il a aussi reconnu que le déploiement de l'annonce avait été chaotique. À son propre aveu, OpenAI a diffusé l'information trop rapidement — il a dit que les enjeux sont "très complexes" et nécessitent une communication plus claire. L'intention, a-t-il soutenu, était de désamorcer une situation tendue et d'éviter "un résultat bien pire". En pratique, le timing a donné une impression d'opportunisme.

Le calendrier a d'autant plus surpris que le partenariat d'OpenAI a émergé juste après que le président Donald Trump ait ordonné aux agences fédérales d'interrompre l'utilisation de Claude d'Anthropic et d'autres services d'Anthropic. Anthropic, rappelons-le, collabore avec le gouvernement fédéral depuis 2024.

Contexte juridique et implications

Ces précisions contractuelles s'inscrivent dans un cadre juridique et réglementaire complexe. Le quatrième amendement, par exemple, protège contre les perquisitions et saisies déraisonnables ; la FISA encadre le renseignement étranger et les procédures de surveillance ; le National Security Act définit des responsabilités et des limites pour les opérations liées à la sécurité nationale. Relier explicitement l'utilisation des systèmes d'IA à ces textes vise à ancrer des garanties constitutionnelles dans un contexte technologique récent.

Sur le plan opérationnel, inscrire une interdiction claire dans un contrat signifie mettre en place des mécanismes de conformité technique et procédurale : définition précise des cas d'usage autorisés, journalisation des requêtes, audits indépendants, contrôles d'accès, et clauses de révision contractuelle. Sans garanties d'application, une clause, même explicite, peut rester théorique.

Ces ajustements sont aussi une réponse aux préoccupations relatives à la protection de la vie privée, à la responsabilité algorithmique et à la transparence. Les risques vont de la surveillance de populations à l'utilisation d'ensembles de données commerciales pour suivre des individus, en passant par la dérive fonctionnelle des outils d'IA hors du périmètre prévu par les décideurs publics et les équipes techniques.

Pourquoi cette ligne est importante

Tracer cette ligne de démarcation entre usage de défense et surveillance intérieure est crucial pour plusieurs raisons :

• Respect constitutionnel : préserver les libertés civiles et éviter des usages contraires au quatrième amendement.
• Confiance publique : maintenir la confiance des utilisateurs et des citoyens dans les technologies d'IA.
• Conformité opérationnelle : donner aux ingénieurs et aux partenaires une orientation claire pour le déploiement de modèles.
• Risques réputationnels et commerciaux : limiter l'impact négatif sur l'adoption produit et éviter une exfiltration massive d'utilisateurs.

Sans une formulation contractuelle claire et des garde-fous techniques, le flou juridique ouvre la porte à des interprétations qui peuvent compromettre ces objectifs.

Anthropic, garde-fous et la pression politique

L'histoire plus profonde ne se résume pas à une clause contractuelle : elle illustre la fracture grandissante entre les grands laboratoires d'IA sur ce qu'ils accepteront — ou refuseront — que leurs modèles fassent entre les mains des gouvernements.

Selon les éléments rapportés dans la note d'Altman, la direction du ministère de la Défense et le secrétaire Pete Hegseth auraient exercé des pressions sur Anthropic pour affaiblir les garde-fous de sécurité de Claude afin que le modèle puisse être employé pour tout usage "licite". Dans ce contexte, la liste des usages "licites" aurait, selon certains comptes rendus, inclus la surveillance de masse et des travaux en vue d'armes entièrement autonomes.

Anthropic a dit non. Dans un communiqué, la société a déclaré qu'"aucune intimidation ni punition" ne modifierait sa position sur la surveillance domestique de masse ou les armes entièrement autonomes. L'ordre présidentiel a suivi, et le ministère de la Défense aurait entamé des démarches préliminaires pour qualifier Anthropic de "risque pour la chaîne d'approvisionnement" — une désignation généralement réservée aux entreprises étrangères (souvent chinoises) soupçonnées de liens avec des gouvernements.

Pression politique, stratégie commerciale et sécurité nationale

Cette situation met en lumière plusieurs tensions convergentes :

• Sécurité nationale vs. éthique technologique : les besoins opérationnels du Pentagone peuvent entrer en conflit avec les principes éthiques que des entreprises comme Anthropic proclament.
• Compétition commerciale : obtenir un contrat gouvernemental confère un avantage stratégique important — accès à financement, prestige, données, et intégration opérationnelle.
• Politisation technologique : l'association d'une entreprise à des enjeux de sécurité nationale peut conduire à des mesures politiques rapides, comme des interdictions ou des avis de risque pour la chaîne d'approvisionnement.

Altman affirme avoir demandé aux responsables américains de ne pas qualifier Anthropic de risque pour la chaîne d'approvisionnement et a dit espérer que le Pentagone proposerait à Anthropic le même type d'accord qu'OpenAI a accepté. Il a cependant ajouté, lors d'un AMA sur X le week-end, qu'il ne connaissait pas les détails de l'accord d'Anthropic ni ses différences éventuelles. Si l'accord était effectivement similaire, il estime qu'Anthropic aurait dû l'accepter.

Ce débat dépasse le strict cadre politique ou contractuel : c'est aussi un spectacle concurrentiel joué sur la place publique, où la perception des utilisateurs influence les parts de marché et la confiance accordée aux plateformes d'IA.

Conséquences pour les utilisateurs et le marché

La réaction des utilisateurs a été immédiate et mesurable. Après la publication des informations sur l'accord d'OpenAI avec le ministère de la Défense, Claude a bondi en tête du classement des applications gratuites sur l'App Store d'Apple, dépassant ChatGPT et Google Gemini. Anthropic a rapidement cherché à capter l'opportunité en lançant un outil d'importation de mémoire destiné à faciliter la transition entre chatbots. Parallèlement, les désinstallations de ChatGPT ont augmenté fortement, avec une hausse de 295% en un jour, selon Sensor Tower.

Ces mouvements montrent à quel point la confiance des utilisateurs est volatile : lorsqu'ils estiment que des garde-fous peuvent être renégociés, l'adoption peut chuter rapidement. Pour les entreprises d'IA, la transparence, les politiques publiques claires et des garanties techniques robustes sont devenues des facteurs déterminants pour la fidélisation et la croissance.

Garde-fous techniques et conformité

Concrètement, comment rendre une clause contractuelle effective sur le plan technique ? Plusieurs mécanismes sont possibles :

1. Conception des modèles avec restrictions d'usage intégrées : hardening des modèles pour refuser certaines requêtes sensibles.
2. Filtrage des données et contrôle des pipelines de données : empêcher l'ingestion d'ensembles de données susceptibles de permettre la surveillance ciblée.
3. Auditabilité et traçabilité : journaux immuables, log d'accès, et audits indépendants pour vérifier le respect des clauses.
4. Clauses de responsabilité et sanctions contractuelles : pénalités financières, résiliation, ou mécanismes de recours en cas de non-conformité.

La combinaison d'engagements contractuels, de garde-fous techniques et d'une surveillance indépendante renforce la crédibilité d'une interdiction opérationnelle de la surveillance de masse.

Analyse stratégique et perspectives

Au-delà des lignes contractuelles, l'affaire révèle une bataille de positionnement entre entreprises d'IA, pouvoirs publics et opinion publique. Plusieurs enseignements et perspectives émergent :

1. Renforcement des normes et régulation

Les gouvernements sont susceptibles de clarifier les définitions légales d'usage légitime des IA dans le contexte de la défense et du renseignement. Une régulation ciblée pourrait définir des scénarios d'usage autorisés, imposer des obligations de transparence et prévoir des mécanismes d'audit et de certification.

2. Standards industriels et adoption de bonnes pratiques

Face au risque de perte de confiance, les acteurs technologiques pourraient s'aligner sur des standards communs : chartes éthiques, labels de conformité, et frameworks techniques pour limiter l'utilisation détournée des modèles.

3. Impact sur l'innovation et la concurrence

Les décisions politiques et les préférences des fournisseurs peuvent redistribuer les cartes du marché. Les entreprises qui adoptent des positions fortes contre la surveillance domestique pourraient renforcer leur attractivité auprès d'utilisateurs soucieux de la vie privée, tandis que d'autres pourraient privilégier des accords lucratifs avec des agences gouvernementales.

4. Rôle de la société civile et du débat public

La surveillance de masse est une question qui dépasse les intérêts commerciaux : elle engage des valeurs démocratiques fondamentales. Les ONG, les universitaires et les médias continueront de peser sur la manière dont ces technologies sont déployées et réglementées.

Conclusion

La controverse autour de l'accord d'OpenAI avec le ministère de la Défense met en lumière un dilemme central pour l'industrie de l'IA : comment concilier les besoins opérationnels de sécurité nationale avec la protection des libertés civiles et la confiance du public. La décision d'Altman de clarifier et d'inscrire une interdiction explicite de la surveillance domestique dans les contrats est une réponse immédiate à une pression publique et politique accrue, mais son efficacité dépendra des mécanismes techniques et contractuels mis en place pour garantir l'application réelle de cette interdiction.

À court terme, le débat continuera d'influencer la concurrence entre entreprises d'IA, la réaction des consommateurs et les politiques publiques. À plus long terme, il pourrait accélérer l'émergence de standards de gouvernance et de conformité qui définiront le paysage de l'intelligence artificielle en matière de défense, de vie privée et d'éthique.

En somme, l'affaire illustre que les questions de conformité, d'éthique et de gouvernance sont désormais aussi cruciales que les capacités techniques des modèles. La manière dont ces tensions seront résolues déterminera non seulement la trajectoire commerciale des acteurs concernés, mais aussi la place de l'IA dans les sociétés démocratiques.