Charles III alerte sur les risques mortels de l’IA

Le roi Charles III a déclaré jeudi à de hauts dirigeants d'entreprises spécialisées dans l'intelligence artificielle que l'IA pourrait développer « des capacités plus sombres, voire la capacité de prendre des vies humaines », ajoutant que des garde-fous devaient être mis en place avant qu'il ne soit trop tard.

Cet avertissement a été lancé lors d'une réunion privée qu'il a organisée avec plusieurs figures majeures du secteur et de hauts responsables britanniques. Le roi a déclaré aux dirigeants technologiques présents que « les personnes qui ont créé ces technologies avertissent aujourd'hui plus que jamais que l'IA risque de développer des capacités plus sombres, voire la capacité de prendre des vies humaines ». Il a ajouté : « À cet égard, si je puis me permettre, il semble urgent d'examiner sérieusement les risques existentiels liés au fait que ces technologies tombent entre de mauvaises mains et soient utilisées de manière potentiellement catastrophique. »

Les participants et le contexte de la réunion

Parmi les participants figuraient Jensen Huang, directeur général de Nvidia, plusieurs cadres d'OpenAI et d'Anthropic, Kanishka Narayan, le nouveau ministre britannique chargé de l'intelligence artificielle, ainsi que le directeur du service de renseignement extérieur du pays. Paolo Benanti, conseiller du pape sur l'IA, était également présent. La réunion s'est tenue jeudi à huis clos.

Ces propos sont remarquables, la famille royale britannique évitant traditionnellement de s'impliquer dans les débats politiques pour des raisons constitutionnelles, alors que l'intelligence artificielle demeure l'un des sujets les plus controversés à l'échelle mondiale. Le roi a qualifié le développement rapide de l'IA de fascinant, mais aussi de profondément préoccupant.

Préoccupations liées à la sécurité et récente démission

Les propos du roi interviennent après la démission d'un chercheur d'Anthropic, motivée par des préoccupations en matière de sécurité. Dans une publication en ligne, le chercheur a écrit que les entreprises d'IA « rivalisent pour construire des machines bien plus intelligentes que n'importe quel humain » et a averti que « l'humanité pourrait ne pas y survivre ».

Le roi Charles a conclu en appelant les dirigeants à trouver des moyens d'exploiter les aspects positifs de l'IA et à renforcer la coopération internationale ainsi que le consensus afin d'atteindre cet objectif.