IA : un ex-chercheur alerte sur un risque catastrophique

Jacob Coxon, chercheur de 27 ans ayant récemment démissionné d’Anthropic après avoir travaillé chez OpenAI, a averti que le rythme actuel du développement de l’intelligence artificielle pourrait avoir des conséquences catastrophiques pour l’humanité. Selon lui, certains chercheurs en IA sont réellement terrifiés. Il a fait part de ses inquiétudes dans une publication sur les réseaux sociaux, puis lors d’un entretien avec la BBC.

Démission et principal avertissement

Dans sa publication et lors de son entretien ultérieur, Coxon a déclaré : « Si nous ne ralentissons pas le rythme actuel des progrès, il y a une forte probabilité que nous mourions tous dans un avenir proche. » Il a affirmé que de nombreux employés d’entreprises d’IA s’inquiètent de la rapidité des avancées et des conséquences possibles des technologies qu’ils développent.

Coxon, qui a travaillé chez OpenAI avant de rejoindre Anthropic, a indiqué soutenir la proposition du PDG d’Anthropic, Dario Amodei, de ralentir le développement, tout en estimant qu’un ralentissement significatif devrait être coordonné avec la Chine. Samedi, Amodei a publié un article appelant à freiner les progrès de l’intelligence artificielle.

Pression concurrentielle et scénarios précis

Coxon a présenté l’intense concurrence entre les entreprises d’IA comme une source d’inquiétude pour leurs employés. « Les personnes qui travaillent dans ces entreprises sont sérieuses lorsqu’elles demandent une réglementation, car elles se retrouvent entraînées dans une course et en redoutent les conséquences », a-t-il déclaré à la BBC.

Il a également évoqué un scénario précis qu’il juge plausible : un réseau de robots agissant comme un superordinateur unique, capable de prendre le contrôle d’Internet. Coxon estime que cela pourrait devenir réalité d’ici six mois à un an.

Déclaration d’Anthropic et réactions dans la Silicon Valley

Un porte-parole d’Anthropic a déclaré à la BBC que l’entreprise a toujours affirmé que l’IA offre des bénéfices considérables, tout en comportant des risques sans précédent. Il a ajouté qu’Anthropic continue de développer des modèles équipés de certains des dispositifs de sécurité les plus robustes du secteur.

Les déclarations de Coxon ont suscité des critiques dans la Silicon Valley. Clement Delangue, directeur général de Hugging Face, a écrit sur X : « Désolé, mais interroger Jacob sur le risque d’extinction de l’humanité revient à demander à un réparateur de climatiseurs son avis sur le changement climatique. » Delangue a ensuite précisé qu’il était disposé à examiner les mesures proposées par Amodei.

Selon plusieurs personnes ayant parlé à la BBC, Jensen Huang, directeur général de Nvidia, a déclaré la semaine dernière, lors d’une conférence organisée par Goldman Sachs, que les affirmations de Coxon étaient erronées.