IA : Dario Amodei appelle à ralentir le développement

Dario Amodei, directeur général d'Anthropic, a appelé les entreprises d'IA à ralentir le rythme auquel elles améliorent les capacités de leurs modèles. Dans une note publique, il estime que le secteur doit freiner la cadence de développement.

L'appel d'Amodei a relancé le débat, dans le secteur, entre rapidité et sécurité. Il a aussi reçu le soutien public inattendu de deux figures majeures de l'IA : Sam Altman et Elon Musk.

Réactions du secteur

Sam Altman, PDG d'OpenAI, a publié sur X qu'il partageait la position d'Amodei. Il a indiqué que les dirigeants d'OpenAI avaient eu de nombreuses discussions ces dernières semaines et s'est déclaré favorable à l'idée que des évaluateurs indépendants disposent d'un accès comparable à celui des employés.

Elon Musk s'est lui aussi exprimé sur X, avec ce soutien lapidaire : « Dario a raison. »

La note d'Amodei intervient alors que les inquiétudes du public grandissent face à l'émergence de systèmes bien plus performants ou capables de s'auto-améliorer. Cette prise de position est d'autant plus notable qu'elle émane du dirigeant d'une entreprise d'IA de premier plan, et non d'un critique extérieur.

Ces échanges font suite au départ de Jacob Coxon, un chercheur passé d'OpenAI à Anthropic, qui a depuis quitté le secteur de l'IA. Coxon a publiquement accusé deux entreprises en concurrence pour développer une IA auto-améliorante de jouer avec des vies humaines.

Le message d'Amodei, ainsi que les soutiens d'Altman et de Musk sur X, maintiennent au cœur du débat public la question du rythme auquel les capacités de l'intelligence artificielle doivent progresser.