Bill Gates alerte sur les risques imminents de l’IA

Bill Gates a déclaré à Nilay Patel que, d’ici deux à trois ans, l’intelligence artificielle entraînera des préjudices mesurables en matière de cyberattaques et d’emploi.

Cette prévision intervient alors que le ton de Gates a sensiblement évolué. Longtemps publiquement optimiste à propos de l’IA, il a publié une note alarmante plus tôt cet été et qualifié l’IA, dans un autre entretien accordé au New York Times, de « chose la plus dangereuse que l’humanité ait jamais approchée ». Il estime désormais que le rythme des avancées des modèles exige une intervention directe des gouvernements pour gérer les risques et préserver l’emploi humain.

Lors d’un long entretien avec Nilay Patel, rédacteur en chef adjoint de The Verge et animateur du podcast Decoder, Gates a expliqué pourquoi le bond des capacités des modèles en un an suscite une inquiétude urgente, pourquoi il est irresponsable de laisser des modèles non filtrés tourner sur des ordinateurs personnels, et pourquoi, même dans le meilleur des scénarios, les vingt prochaines années compteront parmi les plus mouvementées de l’histoire humaine. Il a régulièrement renvoyé la responsabilité aux pouvoirs publics, plutôt que de s’en remettre à l’autorégulation des entreprises.

Concurrence, contrôle et limites des restrictions volontaires

Gates a déclaré que des laboratoires comme OpenAI, Anthropic et Google DeepMind ont d’abord affiché des promesses de gouvernance et un discours centré sur la sécurité, avant d’entrer rapidement dans une course à la commercialisation. Il a cité des dirigeants tels que Sam Altman, Dario Amodei, Satya Nadella et Sundar Pichai, estimant qu’ils connaissent les avertissements internes. Mais lorsque plusieurs entreprises se livrent concurrence, les garde-fous volontaires ont peu de chances de tenir, a-t-il soutenu.

Il a décrit la structure initiale d’OpenAI et son engagement à but non lucratif comme viables seulement lorsqu’une seule organisation dominait la frontière technologique. Dès lors que les concurrents se multiplient, les gouvernements doivent intervenir, a déclaré Gates, comme ils le font pour d’autres technologies dangereuses. Il s’est dit surpris qu’aucun processus imposé par les pouvoirs publics n’existe encore pour évaluer et tester les modèles avant leur mise à disposition du public, évoquant les normes réglementaires applicables aux avions et aux automobiles.

Il a affirmé que les gouvernements doivent instaurer des évaluations et des tests obligatoires des modèles d’IA avant leur déploiement.

Modèles locaux, contrôle des plateformes et risque biologique

Gates a établi une distinction nette entre les modèles hébergés et surveillés dans le cloud, et les poids ouverts téléchargeables. Les grands laboratoires qui hébergent leurs modèles dans le cloud conservent des garde-fous de sécurité et peuvent surveiller les usages afin de réduire les risques à court terme. Le danger réside, selon lui, dans les modèles dont les protections peuvent être supprimées et qui peuvent fonctionner localement sur du matériel grand public.

Il a soutenu qu’une fois les modèles au-delà d’un certain seuil de capacité, il n’est pas responsable d’autoriser la distribution de poids bruts destinés à être exécutés sur des ordinateurs personnels. Ces modèles devraient plutôt fonctionner uniquement sur des plateformes approuvées, empêchant toute altération des mécanismes de sécurité. Gates a étendu cette logique aux plateformes de distribution : il a appelé à des règles distinctes pour la publication de modèles puissants et à des contrôles sur des plateformes comme GitHub, qui impose aujourd’hui peu de restrictions à la publication de code. Selon lui, une plateforme devrait exiger l’approbation du gouvernement américain avant d’autoriser la publication d’un modèle capable de mener des cyberattaques ou des attaques biologiques à grande échelle, sous une forme que les utilisateurs peuvent modifier pour supprimer les garde-fous.

Gates a averti qu’une IA dépourvue de protections pourrait démocratiser le pouvoir destructeur d’une manière que même les contraintes de l’ère nucléaire n’avaient pas permise : à l’époque atomique, a-t-il rappelé, seuls les grands États pouvaient concevoir des armes capables de causer des pertes massives, tandis qu’une IA non protégée pourrait conférer à de petits groupes de redoutables capacités cybernétiques et biologiques.

Interrogé sur la question de savoir si les politiques publiques devraient se concentrer sur les puces ou les plateformes, Gates a souligné que les contrôles sur la distribution et l’exécution, au niveau des plateformes, constituent le point central de la supervision. Il a indiqué que, si les autorités tardent à agir, des modèles puissants deviendront accessibles à des acteurs échappant à la surveillance et aux forces de l’ordre.

Gates a également abordé les désaccords entre développeurs sur la conscience des modèles. Selon lui, les débats sur l’AGI ou la conscience de soi sont en grande partie sans importance pour la sécurité : la question centrale est pragmatique et binaire, à savoir si un système peut désactiver un réseau bancaire ou électrique. Il a ajouté qu’il ne pense pas que les modèles actuels possèdent une conscience comparable à celle des humains et a rejoint Mustafa Suleyman, de Microsoft, sur le fait que les modèles ne devraient pas être considérés comme des entités sensibles.

Concernant les approches techniques de contrôle, Gates a présenté trois pistes distinctes. La première consiste à mettre en place un superviseur externe doté de règles symboliques explicites, chargé de vérifier les actions du modèle depuis l’extérieur. La deuxième vise à modifier les objectifs d’entraînement, car, dans les approches actuelles d’apprentissage par renforcement, tout élément qui n’est pas explicitement encodé dans la fonction de récompense peut être exploité ou contourné. La troisième repose sur une meilleure transparence interne, afin que les ingénieurs puissent inspecter le modèle et identifier l’origine des erreurs ou des comportements anormaux au sein du réseau.

Gates a estimé que la pratique actuelle, qui consiste à entraîner des modèles puis à observer leur comportement, n’est pas une impasse, mais qu’elle exige un travail concerté sur ces trois fronts.

Il a également évoqué les conséquences économiques et une expérience personnelle menée avec Claude d’Anthropic. Gates a déclaré que l’IA prendra progressivement en charge de nombreuses tâches de bureau, du support client, de la télévente et de la comptabilité à des fonctions complexes comme la programmation, la recherche mathématique et le diagnostic médical. Les progrès continus conduiront ensuite à l’automatisation des métiers manuels par des robots physiques.

Parce que le travail procure un revenu et un sentiment d’utilité, Gates a déclaré que les sociétés pourraient volontairement réserver certains rôles aux humains, même lorsque l’IA se montrerait plus performante. Il a décrit ses échanges avec Claude sur le maintien d’une part humaine dans l’emploi et indiqué avoir tenté de fixer un objectif d’environ 40 % des emplois restant pilotés par des humains ; Claude répondait systématiquement qu’une telle restriction constituerait une limitation artificielle des capacités de l’IA.

Gates a averti que, sans limites délibérées, même 40 % des emplois pourraient ne pas rester occupés par des humains. Il a prédit que les bouleversements déjà observés chez les mathématiciens s’étendront à d’autres domaines et que, si les bénéfices en médecine et la baisse du coût de la vie mettront du temps à se matérialiser, les dommages en matière de sécurité et d’emploi devraient apparaître dans les deux à trois prochaines années.

Il a conclu en affirmant que, même si l’IA est bien encadrée, les deux prochaines décennies seront extrêmement perturbatrices : certaines personnes adopteront la technologie, tandis que d’autres pourraient s’en éloigner au sein de communautés ressemblant aux Amish. Il a déclaré qu’une future ère d’abondance restait possible, mais a appelé à des avertissements publics sincères et à des choix politiques volontaristes pour déterminer comment cet avenir sera réparti.

Gates a indiqué qu’il n’aime pas formuler de prévisions alarmantes, mais a insisté sur la nécessité d’avertir le public et sur le fait que l’humanité conserve encore le pouvoir de choisir comment gouverner ces technologies.