Jensen Huang écarte le scénario d’extinction par l’IA

Le PDG de Nvidia, Jensen Huang, a écarté les récentes mises en garde selon lesquelles l’intelligence artificielle pourrait entraîner l’extinction de l’humanité. Selon lui, certains dirigeants d’entreprises d’IA pourraient chercher à effrayer le public pour d’autres raisons. Dans une interview accordée à CBS Sunday Morning, il a estimé à zéro pour cent la probabilité d’une fin du monde provoquée par l’IA d’ici 2030.

Huang balaie les thèses sur le risque existentiel

Jensen Huang a jugé les préoccupations liées à la sécurité de l’IA globalement légitimes, tout en affirmant que les avertissements présentant cette technologie comme une menace d’extinction ne reposent sur aucune base scientifique. Il a reconnu que l’IA peut avoir des « usages terribles » et qu’elle doit être développée « en toute sécurité », mais a estimé qu’il était faux de présenter 2030 comme la fin du monde. « Quelle que soit la façon dont vous le décrivez, 2030 ne sera pas la fin du monde. La probabilité que ce soit la fin du monde est de zéro pour cent », a-t-il déclaré.

Un débat relancé dans le secteur et des appels à la réglementation

Les déclarations de Jensen Huang interviennent alors que le débat public sur les risques liés à l’IA connaît un regain d’attention. Plus tôt ce mois-ci, un ancien chercheur d’Anthropic a affirmé que de nombreux employés des principales entreprises d’IA « croient réellement que cette technologie pourrait tous nous tuer d’ici la fin de la décennie ». Ces propos ont contribué à relancer les appels de personnalités du secteur en faveur d’un développement plus lent et de mesures de sécurité renforcées.

• Dario Amodei, PDG d’Anthropic, a appelé à ralentir la recherche, à mettre en place des programmes nationaux de tests et à renforcer les mesures de sécurité.
• Sam Altman, PDG d’OpenAI, s’est prononcé en faveur d’un ralentissement de la recherche, tandis que l’entreprise a demandé aux gouvernements d’imposer des exigences de sécurité obligatoires.
• Un ancien chercheur d’Anthropic a averti que de nombreux employés estiment que l’IA pourrait représenter une menace existentielle d’ici la fin de la décennie.

Motivations, application des lois existantes et mesures de sécurité concrètes

Jensen Huang a avancé que certains dirigeants du secteur pourraient exagérer le risque existentiel pour des raisons politiques ou pour attirer l’attention. Il a également estimé que les récents appels à une réglementation accrue pourraient traduire une volonté d’échapper aux conséquences d’infractions aux règles existantes, notamment au regard de récents incidents de sécurité. « Ne laissez pas ce discours apocalyptique permettre à qui que ce soit d’être exempté des lois qui existent déjà. Ils ne demandent pas réellement davantage de lois. Ils veulent être exemptés des lois dont nous disposons », a-t-il déclaré, avant d’ajouter : « Commencez par faire appliquer les lois existantes. »

Jensen Huang a préconisé une approche concrète et procédurale de la sécurité de l’IA, semblable à celle en vigueur dans l’aviation commerciale. À mesure que les technologies gagnent en maturité, les ingénieurs déplacent généralement leur attention du simple fonctionnement des systèmes vers la garantie d’une exploitation sûre, à travers la vérification, les tests, l’évaluation et la normalisation. « Faites d’abord les choses concrètes, puis nous pourrons parler des aspects théoriques. Mais ne parlez pas des aspects théoriques sans faire les choses concrètes », a-t-il déclaré.