Utiliser l'IA pour défendre les logiciels et réseaux

Imaginez un logiciel capable de rédiger un exploit fonctionnel pendant qu'un analyste humain lit encore l'alerte. Effrayant ? Ça l'est. Et Greg Brockman, président d'OpenAI, sonne l'alarme sans les habituelles réserves d'entreprise.

Brockman soutient que les mêmes avancées qui améliorent l'IA pour écrire du code abaissent aussi le niveau requis pour les attaquants. Le remède qu'il propose est contre-intuitif par sa simplicité : utiliser davantage l'IA, et plus vite, pour défendre les réseaux et les logiciels.

Pourquoi les défenseurs devraient accueillir des assistants autonomes

L'IA, dit-il, peut modifier l'économie de la cybersécurité en faveur des défenseurs. Pensez à des machines produisant un code nettement plus solide et plus sûr. Ou à des preuves formelles et mathématiques qui étayent les systèmes cryptographiques. Ce ne sont pas des idées de science-fiction. Ce sont des outils concrets qui peuvent réduire l'erreur humaine et permettre à la sécurité d'évoluer à grande échelle.

Alors que devraient faire concrètement les équipes de sécurité ? Brockman recommande de donner la priorité aux agents d'IA dans la boîte à outils de la sécurité. Ces agents ne sont pas des gadgets. Ils peuvent analyser le code, mettre en évidence des vulnérabilités, évaluer le risque de la chaîne d'approvisionnement et effectuer le triage à des vitesses qu'aucune équipe humaine ne peut égaler. Commencez petit. Gagnez la confiance. Puis allez de l'avant.

• Commencez par des analyses automatisées simples pour identifier les problèmes faciles à résoudre.
• Passez à des analyses opérationnelles qui s'exécutent en continu contre les services en production.
• Introduisez la suppression et la correction automatisées pour les faux positifs évidents.

L'accent sur un déploiement progressif est volontaire. Brockman souhaite que les défenses mûrissent étape par étape plutôt que d'installer un agent non testé et d'espérer le meilleur.

Les derniers mois ont mis cette tension en évidence. Des modèles de pointe comme Mitos d'Anthropic ont suscité l'attention des équipes de sécurité et des régulateurs. Ces systèmes sont souvent livrés comme des programmes à accès limité pour des partenaires de confiance, pourtant leur capacité à détecter des erreurs de configuration et à construire de nouvelles chaînes d'attaque incite à une vigilance accrue. Le développement porte désormais sur des agents capables d'interagir directement avec les logiciels, ce qui crée à la fois des opportunités et des risques.

Certains chercheurs en sécurité s'inquiètent que les garde-fous entourant les grands modèles de langage n'aient pas progressé aussi rapidement que les modèles eux-mêmes. Cet écart compte. Les organisations avisées ayant accès aux modèles leaders déploient déjà des contre-mesures et des correctifs. Oracle, par exemple, a publié environ 1 450 correctifs de sécurité le mois dernier seulement, rappelant que la maintenance logicielle reste un travail ininterrompu.

Il n'y a pas de solution miracle. L'adoption variera d'une entreprise à l'autre. Mais le message est clair : considérez l'IA comme un multiplicateur de force pour la défense, pas seulement comme une nouvelle ligne sur une feuille de route produit. La rapidité de votre déploiement pourrait déterminer si votre équipe reste en avance ou devient réactive.

Utilisez l'IA pour identifier et corriger ce que l'IA rend plus vulnérable.