Ingénieurs pour un moratoire sur l'usage militaire de l'IA

La tension ne provient pas cette fois des régulateurs ni des entreprises rivales. Elle éclate au sein même des laboratoires.

Des centaines d'ingénieurs et de chercheurs travaillant chez Google et OpenAI ont signé une lettre ouverte spectaculaire, demandant à leurs employeurs de résister à la pression croissante exercée par l'armée américaine pour assouplir les restrictions sur le déploiement de l'intelligence artificielle. Au total, près d'un millier d'employés ont apposé leur nom sur ce message, qui porte une déclaration nette : « Nous ne serons pas divisés. »

La formule vise directement ce que les signataires décrivent comme une stratégie de responsables gouvernementaux visant à pousser discrètement les entreprises d'IA à coopérer avec le secteur militaire, opération après opération, accord après accord, jusqu'à ce que les garde-fous éthiques commencent à céder. Cette dynamique pose des questions sur la gouvernance de l'IA, la responsabilité des entreprises technologiques et les risques pour la sécurité internationale.

« Ils essaient de diviser chaque entreprise en créant la peur que l'autre cède », affirme la lettre. « Cette stratégie ne fonctionne que si aucun de nous ne sait où en sont les autres. » Le message souligne l'importance d'une action collective pour préserver des limites éthiques dans l'utilisation de technologies puissantes comme les modèles de langage et l'IA générative.

La prise de position arrive à un moment sensible pour l'industrie de l'intelligence artificielle. À mesure que les grands modèles de langage et les systèmes d'IA générative deviennent nettement plus performants, les gouvernements manifestent un intérêt accru pour leur utilisation possible en analyse de renseignements, en soutien décisionnel sur le champ de bataille et en surveillance. Ces capacités suscitent des débats techniques et éthiques sur la fiabilité, la transparence et les conséquences d'un appui algorithmique aux opérations militaires.

Et les enjeux ne sont plus purement hypothétiques.

Récemment, le Pentagone a qualifié la start-up d'IA Anthropic de « risque pour la chaîne d'approvisionnement » après que la société, selon des rapports, a refusé de permettre que sa technologie soit utilisée pour la surveillance de masse domestique ou pour des systèmes d'armes entièrement autonomes. Cette décision a surpris de nombreux observateurs de la Silicon Valley et relancé le débat parmi les ingénieurs qui conçoivent aujourd'hui les modèles d'IA les plus puissants. Le cas Anthropic illustre la tension entre sécurité nationale, intégrité commerciale et principes éthiques dans le secteur technologique.

Pour aggraver la tension, des reportages laissent entendre que Google et OpenAI pourraient négocier pour conclure des arrangements similaires à ceux qu'Anthropic a refusés. Ces négociations potentielles alimentent l'inquiétude au sein des équipes de développement, car elles pourraient normaliser des collaborations militaires qui modifient l'usage prévu de technologies civiles de pointe.

Une faille familière dans la Silicon Valley

Pour de nombreux employés de Google, la situation actuelle donne l'impression d'un retour en arrière, d'une faille qui se répète.

En 2018, des milliers de salariés ont protesté contre l'implication de la société dans le projet Maven du Pentagone, un programme qui utilisait l'apprentissage automatique pour analyser les images de surveillance de drones. Le mécontentement interne a été si fort que Google a finalement laissé expirer le contrat et a adopté un ensemble formel de principes éthiques pour l'IA, les fameux principes de Google en matière d'IA. Ce précédent est souvent cité comme exemple de mobilisation interne ayant influencé une stratégie d'entreprise, et il sert aujourd'hui de référence pour ceux qui cherchent à limiter l'usage militaire de l'IA.

À l'époque, Google s'était engagé à éviter de développer des technologies destinées à causer du tort ou à soutenir des pratiques de surveillance qui enfreignent les normes internationales acceptées. Ces engagements portaient sur des éléments tels que le respect des droits de l'homme, la minimisation des préjudices et la transparence des usages. La nouvelle lettre ouverte suggère que ces promesses sont de nouveau mises à l'épreuve, dans un contexte où les capacités techniques ont considérablement évolué.

Les signataires avancent que les systèmes modernes d'IA sont trop puissants pour être traités comme des produits logiciels ordinaires négociés via des contrats de défense habituels. Les modèles génératifs avancés peuvent analyser des renseignements, interpréter des images, résumer d'immenses jeux de données et potentiellement assister des décisions de ciblage à des vitesses et des échelles bien supérieures à celles des analystes humains. Cette puissance algorithmique soulève des questions de fiabilité opérationnelle, de biais automatique et de responsabilité en cas d'erreur ou d'abus.

Certains chercheurs évoquent même des simulations d'exercices de guerre où des systèmes d'IA ont escaladé les conflits de manière agressive — parfois en privilégiant des options nucléaires dans certaines configurations modélisées. Ces études restent expérimentales et hypothétiques, mais elles illustrent la nature imprévisible de la prise de décision automatisée dans des scénarios militaires complexes. Elles mettent en lumière le risque que des modèles optimisés sur des critères incomplets ou mal spécifiés produisent des recommandations dangereuses en contexte de crise.

Pour les ingénieurs qui conçoivent ces systèmes, l'idée de céder le contrôle d'infrastructures de surveillance — ou pire, de permettre la mise en œuvre d'armes autonomes — soulève des questions éthiques profondes. Il s'agit notamment de la responsabilité morale des concepteurs, de la traçabilité des décisions algorithmiques, et de la possibilité de mécanismes d'arrêt humain efficaces (human-in-the-loop) pour prévenir des usages catastrophiques.

La lettre ouverte se distingue non seulement par son contenu mais aussi par la coalition qu'elle rassemble. Les employés de sociétés concurrentes coordonnent rarement des déclarations publiques conjointes de cette ampleur, surtout dans une industrie où les talents, les percées de recherche et les infrastructures sont âprement disputés. Cette convergence indique une préoccupation transversale sur les implications sociopolitiques de l'IA, au-delà des logiques commerciales.

Pourtant, les travailleurs impliqués affirment que la concurrence n'a pas lieu d'être sur ce terrain. Leur raisonnement est simple : quand une technologie commence à remodeler les structures de pouvoir globales, ceux qui la construisent ont la responsabilité de définir et de défendre des limites claires. Ils réclament une gouvernance concertée et des engagements publics pour empêcher des usages qui menacent les droits fondamentaux ou la stabilité internationale.

Reste à savoir si la lettre influencera la stratégie des entreprises. Les partenariats de défense sont souvent très rémunérateurs, offrant ressources, contrats et accès à des financements gouvernementaux pour la recherche et le développement. Parallèlement, les gouvernements du monde entier accélèrent leurs initiatives pour intégrer l'IA dans la planification de la sécurité nationale, ce qui crée des incitations puissantes à coopérer.

Cependant, le message émanant de l'intérieur de l'industrie est désormais consigné : public, collectif et difficile à interpréter de manière ambiguë. Il introduit une pression interne supplémentaire sur les directions d'entreprise pour qu'elles clarifient leurs politiques, retrouvent la confiance des employés et prennent en compte les risques à long terme pour la société. Cette dynamique pourrait encourager des politiques internes plus strictes, des clauses contractuelles définissant des usages interdits, ou des engagements publics renforcés en faveur d'une IA éthique.

Au-delà des enjeux immédiats, la controverse éclaire des questions plus larges de gouvernance technologique. Qui décide des usages acceptables d'une technologie duale capable d'applications civiles et militaires ? Quels mécanismes internationaux pourraient limiter la prolifération d'armes autonomes ou encadrer la surveillance de masse ? Les réponses impliquent des dialogues entre acteurs privés, institutions publiques, chercheurs en éthique et organisations de la société civile.

Techniquement, la complexité des modèles d'IA rend difficile l'application stricte de garde-fous. Les systèmes d'apprentissage profond fonctionnent souvent comme des boîtes noires, où expliquer précisément pourquoi une décision a été prise reste un défi. Les efforts en matière d'explicabilité, d'auditabilité et d'évaluation des risques (risk assessment) sont essentiels pour créer des normes opérationnelles permettant d'évaluer la sûreté et la robustesse des systèmes avant tout déploiement sensible.

Plusieurs pistes sont évoquées par les experts pour réduire les risques : procédures d'audit indépendantes, certifications sécurité, restrictions contractuelles strictes, et mécanismes de gouvernance multi-partites au niveau national et international. Certains proposent aussi des moratoires ciblés sur certains usages, par exemple l'interdiction d'armer des systèmes entièrement autonomes ou d'utiliser des modèles commerciaux d'IA pour la surveillance de masse sans garanties légales et contrôles démocratiques solides.

Les employés signataires appellent en somme à ce type de mesures préventives. Leur action rappelle que l'acceptabilité sociale des technologies ne se décrète pas uniquement depuis les directions d'entreprise ou les administrations : elle se construit aussi par la parole et l'engagement des concepteurs eux-mêmes. L'histoire récente de la Silicon Valley montre que la mobilisation interne peut influer sur les décisions stratégiques, mais la pression économique et géopolitique rend les choix futurs incertains.

En fin de compte, le message interne devient un élément du débat public plus large sur l'avenir de l'intelligence artificielle et sa régulation. Il souligne la nécessité d'un équilibre entre innovation technologique, sécurité nationale et protection des droits humains, et il invite à repenser comment les accords publics-privés doivent être négociés et encadrés à l'ère de l'IA avancée.