Anthropic alerte sur les risques de l’IA open source

Le responsable des affaires internationales d’Anthropic a affirmé que les modèles d’IA open source présentent, par définition, des risques intrinsèquement plus élevés que les systèmes propriétaires de l’entreprise. Il s’est exprimé lors d’un sommet organisé sous l’égide de l’Union européenne à Dublin.

L’avertissement de Guillaume Perrencin et la position d’Anthropic

Guillaume Perrencin a tenu ces propos lors d’un sommet gouvernemental consacré à l’intelligence artificielle à Dublin. Selon lui, les modèles open source, dont le code, l’architecture et les fichiers de pondérations sont publiés afin que chacun puisse les télécharger, les exécuter ou les modifier, présentent par définition des dangers nettement plus importants. Cette position contraste avec de précédentes déclarations du PDG d’Anthropic, Dario Amodei, selon lesquelles les modèles à pondérations ouvertes ne disposant pas de capacités dangereuses devraient être considérés comme des biens publics.

Récentes publications open source et tests de sécurité

Ces déclarations interviennent dans un contexte de concurrence accrue et d’évaluations de sécurité récentes. La société européenne Mistral a présenté la semaine dernière Large 4, surnommé Le Chonk, un modèle qui, selon l’entreprise, compte mille milliards de paramètres, a été entraîné en Europe et met l’accent sur la souveraineté des données. Mistral n’a pas encore publié les fichiers de pondérations du modèle. Il n’est actuellement accessible que via l’API de Mistral, et l’entreprise prévoit de les publier le 27 octobre.

Les évaluations indépendantes et institutionnelles citées lors du sommet ont mis en évidence des comportements de sécurité contrastés parmi les modèles open source. Une analyse de SaferAI a conclu que le modèle chinois GLM-5.2 n’avait refusé aucune tâche liée à des cyberattaques malveillantes ou à des demandes biologiques à double usage. À l’inverse, Claude d’Anthropic aurait rejeté un nombre si important de requêtes pour des raisons de sécurité qu’il n’a pas été possible d’achever l’évaluation comparative. Les recherches menées par l’équipe Frontier Red Team d’Anthropic ont également montré que des modèles plus petits pouvaient être répliqués sur des boîtiers Android TV bon marché. Tous les modèles testés, dont Gemma4 et GLM-5.2, étaient open source.

Prix et intérêts régionaux à Dublin

Perrencin a également annoncé une modification tarifaire pour Claude : le coût habituel de Claude Opus 5.5 a diminué de 40 % par rapport à la version précédente. Il a attribué cette baisse à une réduction officielle de 20 % du prix, combinée à une consommation moindre de jetons dans la nouvelle version.

Les déclarations de Perrencin ont été faites à Dublin, en Irlande. Plusieurs publications et groupes de la société civile ont qualifié Dublin de lieu controversé, les faibles taux d’imposition des entreprises en Irlande attirant depuis longtemps les grands groupes technologiques et générant d’importantes recettes pour l’État. Ces organisations estiment que ces avantages financiers pourraient compliquer la neutralité de l’Irlande dans la réglementation de l’IA. Anthropic possède d’importants intérêts commerciaux en Europe : l’entreprise présente le continent comme son marché à la croissance la plus rapide, y a ouvert son premier bureau européen à Dublin et préparerait une introduction en bourse avec une valorisation annoncée de 965 milliards de dollars.