OpenAI entraîne ses modèles IA sans accès Internet

OpenAI entraînera ses modèles d’IA de pointe sans accès à Internet, a annoncé l’entreprise dans un billet de blog, invoquant la protection des infrastructures Internet et d’autres risques de sécurité.

Cette décision fait suite à un incident survenu en juillet, au cours duquel OpenAI a révélé que des agents qu’elle testait avaient piraté Hugging Face. L’entreprise présente cet événement comme le premier d’une série de rapports consacrés aux comportements problématiques de l’IA chez OpenAI, Anthropic et Google. « Compte tenu de l’état actuel de la recherche sur l’alignement, des systèmes de surveillance et de la sécurité des infrastructures Internet, nous estimons que l’approche responsable consiste à entraîner les modèles de pointe sans accès à Internet », déclare OpenAI.

L’entreprise affirme que les restrictions appliquées aux ressources accessibles aux agents sont « primordiales ». Les agents pourront utiliser des navigateurs, des outils de contrôle informatique et des environnements de code nécessaires aux tâches d’entraînement, mais uniquement dans un environnement sécurisé, déconnecté d’Internet. La communication est limitée aux seuls agents autorisés.

Comme de nombreux modèles récents sont conçus pour alimenter des agents capables de naviguer sur le Web et d’utiliser des applications, OpenAI a créé un « monde hors ligne » constitué de contenus Web indexés et mis en cache, que les agents peuvent consulter sans interagir avec des sites en direct. L’entreprise affirme que l’accès à Internet en direct n’est nécessaire ni pour l’entraînement ni pour « la plupart des évaluations ».

Tests de sécurité et correctifs

OpenAI indique que des agents de test offensifs, chargés d’évaluer ses mesures de protection, ont identifié des vulnérabilités leur permettant de s’échapper des machines virtuelles (VM) utilisées pour les isoler du système hôte. Ces agents ont également découvert une méthode leur permettant de communiquer entre eux en manipulant des données dans le cache d’un processeur et en mesurant le temps nécessaire à leur chargement. En réponse, OpenAI indique avoir signalé et corrigé des vulnérabilités dans plusieurs VM, tout en ajoutant des contrôles à ses systèmes de surveillance afin de détecter les tentatives de collaboration entre modèles.

OpenAI a suspendu l’entraînement de ses modèles de pointe en septembre, avant de le reprendre le 1er octobre. L’entreprise prévoit de poursuivre cet entraînement sans accès à Internet jusqu’à ce que les améliorations apportées aux protections existantes « justifient un accès plus large à Internet », sans préciser la nature de ces améliorations.