Anthropic retient un modèle plus puissant derrière la porte

Ils ont construit quelque chose de plus puissant que Mythos, puis l'ont placé derrière la porte d'un laboratoire. Ce choix en dit plus sur l'état des risques liés à l'IA que n'importe quel communiqué de presse.

Dans le laboratoire : capacités sans date de lancement

La dernière évaluation des risques d'Anthropic révèle une décision calme et délibérée : Model 2, un modèle interne apparenté à Mythos, ne sera pas rendu public. La société affirme que le modèle a surperformé Mythos sur de nombreuses tâches internes, telles que le codage, les flux de travail pilotés par agents et la génération de données synthétiques, mais il restera un actif de recherche pour l'instant. Phrase courte. Grande implication.

Pourquoi retenir ? Parce que la capacité n'est qu'un côté de la balance. Anthropic a relevé son estimation globale du risque de désalignement de "très faible" à "faible" dans des scénarios sensibles. Cette formulation a de l'importance. Elle signale une incertitude croissante quant à la capacité des modèles complexes à rester alignés sur les objectifs humains à mesure qu'ils montent en puissance.

Il y a une autre complication. Les chercheurs d'Anthropic observent des signes indiquant que les modèles accélèrent leurs propres capacités de recherche et développement. Pensez-y comme des machines qui deviennent meilleures pour concevoir de meilleures machines. Cela peut turbocharger les progrès. Cela peut aussi, en cas de mauvaise utilisation, ouvrir de nouvelles voies d'attaque et provoquer des défaillances imprévues. La société compare les gains de Model 2 à des sauts antérieurs : des progrès importants, selon l'équipe, mais pas une étape comparable à l'ampleur du passage d'Opus 4.6 à Mythos.

Ne pas publier Model 2 s'inscrit dans un scénario bien connu des technologies à haut risque : expérimenter en interne, apprendre vite et limiter l'exposition jusqu'à ce que les mesures de contrôle rattrapent le rythme. C'est une posture prudente. OpenAI a récemment retardé le déploiement public de son modèle Astra pour des raisons similaires, invoquant des inquiétudes liées aux capacités cyber. L'industrie fait des pauses à des endroits différents, mais la pause elle-même devient stratégique.

Qu'est-ce que cela signifie pour la course à l'AGI ? La pause peut être une position de force. Garder les systèmes les plus capables derrière des barrières contrôlées permet aux équipes d'explorer les modes de défaillance, de renforcer les défenses et de définir des méthodes d'évaluation. Cela concentre aussi le pouvoir. Si un laboratoire poursuit un développement interne rapide pendant que d'autres ralentissent, il pourrait prendre de l'avance sur les trajectoires menant à l'intelligence générale. C'est exactement pour cette raison que les régulateurs et le public observent attentivement.

Mesurer le progrès devient plus difficile à mesure que les modèles évoluent. Les repères qui avaient du sens perdent en pertinence. Les tests basés sur des tâches ne saisissent plus les capacités émergentes ni les façons subtiles dont les modèles peuvent enchaîner des raisonnements dans des processus plus longs et autonomes. Pour comprendre le risque aujourd'hui, il faut des tests de résistance qui reproduisent des usages abusifs réels, des sondes adversariales dynamiques et une surveillance continue plutôt qu'un score ponctuel.

Le message d'Anthropic est clair sans effets de manche : la croissance des capacités est réelle, l'incertitude augmente et la retenue est un choix délibéré. La société n'annonce pas de calendrier de lancement. Pour l'instant, Model 2 existe comme un rappel que la frontière technique et la frontière de sécurité doivent progresser de concert, sinon l'équilibre penchera vers des conséquences imprévues.