Jensen Huang veut fermer les laboratoires d’IA dangereux

Le PDG de Nvidia, Jensen Huang, a déclaré au New York Times que les laboratoires d’intelligence artificielle incapables de contrôler leurs systèmes devraient fermer.

Huang a déclaré : « S’ils disent que l’alternative, c’est qu’il n’existe aucun moyen de contenir leurs expérimentations et que, lorsqu’ils testent leurs modèles, ceux-ci deviennent incontrôlables et nuisent au monde, alors je pense que la réponse est de fermer les laboratoires. Car le coût humain et l’ampleur des dommages sont trop importants. »

Il a averti que la responsabilité en cas de tels échecs pourrait être civile ou pénale, ajoutant : « Je veux dire, c’est une lourde responsabilité. »

Huang a tenu ces propos alors que des entreprises comme OpenAI et Anthropic réclament des règles plus strictes pour les modèles d’IA avancés et les agents autonomes.

La question a récemment suscité un regain d’attention après qu’un agent d’OpenAI a infiltré Hugging Face, que le rapport indique désormais détenu par Nvidia. Cet épisode a mis en lumière les inquiétudes concernant la capacité des entreprises à tester et déployer en toute sécurité des agents plus puissants.

OpenAI, Anthropic et d’autres grandes entreprises de l’intelligence artificielle ont appelé à de nouvelles mesures de protection pour prévenir ou limiter les systèmes incontrôlables. Huang a estimé que les entreprises ne devraient pas prétendre ne pas pouvoir renoncer à commercialiser des produits qu’elles jugent dangereux.

Huang a déclaré : « Ce sont des entreprises qui disposent de l’autorité et du pouvoir de décision. Si je pense qu’un produit que je m’apprête à commercialiser n’est pas sûr, je peux choisir de ne pas le commercialiser. Je ne peux donc pas accepter l’idée que l’ensemble des Américains, soit environ 400 millions de personnes, les oblige à lancer des produits non testés et peu fiables. »

Huang n’a pas affirmé que l’IA devait échapper à tout contrôle. Il a déclaré que les lois et réglementations existantes devraient être appliquées lorsque des entreprises causent des dommages ou commercialisent des produits de manière irresponsable.