Alerte : premier exploit jour zéro créé avec l'aide de l'IA

Le coup de semonce est arrivé. Google indique avoir découvert ce qui semble être le premier exploit connu de jour zéro développé avec l'aide de l'intelligence artificielle, une découverte qui propulse les risques liés à la sécurité de l'IA dans un territoire bien plus inquiétant.

Selon le groupe de renseignement sur les menaces de Google, l'exploit était lié à un acteur menaçant se préparant à ce que l'entreprise a décrit comme un éventuel événement d'exploitation à grande échelle. En termes simples, il ne s'agissait pas d'une expérience isolée ni d'une preuve de concept. Cela ressemblait à quelque chose destiné à être utilisé à grande échelle. Google affirme que sa détection précoce a peut-être empêché l'attaque d'être déployée.

Ce détail est important car les vulnérabilités jour zéro comptent parmi les outils les plus dangereux de la cybercriminalité. Elles exploitent des failles logicielles encore inconnues du fournisseur ou de la victime, ce qui signifie qu'aucun correctif n'est disponible et qu'il n'y a pas de temps pour se préparer. Les attaquants agissent en premier. Tous les autres réagissent ensuite précipitamment.

Quand l'IA cesse d'être théorique

Google n'a pas nommé l'entreprise ciblée, mais a indiqué avoir prévenu l'organisation concernée et que le problème a depuis été corrigé. Les attaquants n'ont pas été identifiés non plus. Néanmoins, le rapport souligne un intérêt croissant de la part de groupes liés à la Chine et à la Corée du Nord, qui font tous deux l'objet d'une surveillance étroite pour leurs expérimentations de l'IA dans des opérations cyber offensives.

Google a également précisé qu'elle ne pense pas que ses propres modèles Gemini aient été impliqués. Pour autant, l'entreprise affirme avoir une forte certitude qu'un système d'IA a joué un rôle dans la découverte de la vulnérabilité et pour en faire un exploit opérationnel. Cette distinction est importante. Pendant des années, l'industrie technologique a débattu du moment où l'IA dépasserait les courriels de phishing, les faux profils et l'automatisation pour atteindre les couches plus techniques et complexes des cyberattaques. Cela ressemble à l'un des signes les plus nets que ce changement est en cours.

John Hultquist, analyste en chef au sein du GTIG, a décrit le cas comme un aperçu de ce qui nous attend, le qualifiant d'avant-goût de l'avenir et seulement de la partie émergée de l'iceberg dans des commentaires au New York Times. Cela peut paraître dramatique, mais la logique est difficile à ignorer. Les modèles d'IA deviennent plus rapides, moins coûteux et plus performants. S'ils peuvent aider les défenseurs à découvrir des failles dangereuses avant les cybercriminels, ils peuvent aussi aider les attaquants à rechercher des points faibles avec beaucoup moins d'efforts qu'auparavant.

C'est le déséquilibre préoccupant qui traverse actuellement l'ensemble de l'industrie de la cybersécurité. La même technologie qui peut accélérer l'offensive peut aussi renforcer la défense. Google indique que des acteurs malveillants utilisent déjà l'IA à différentes étapes des opérations cyber, tandis que les équipes de sécurité se précipitent pour appliquer ces mêmes outils à la découverte de vulnérabilités, à la réponse aux incidents et à la détection des menaces.

D'autres vont dans la même direction. Anthropic a récemment présenté le Project Glasswing, une initiative axée sur l'utilisation de Claude Mythos Preview pour identifier et se défendre contre des vulnérabilités à haute gravité. Le message venu de tout le secteur devient de plus en plus difficile à ignorer : l'IA n'est plus en marge de la cybersécurité. Elle devient un participant actif des deux côtés.

Pour les observateurs technologiques mondiaux, ce moment ressemble moins à une surprise et davantage à une ligne franchie. L'idée d'attaques cyber assistées par l'IA est discutée depuis des années. Désormais, il existe des preuves tangibles. Et une fois cette porte ouverte, elle se referme rarement.