Yann LeCun rejette les craintes d’extinction liées à l’IA

Yann LeCun a déclaré à Fortune qu’il n’était « pas du tout inquiet » à l’idée que l’intelligence artificielle puisse entraîner l’extinction de l’humanité. Il a également qualifié Dario Amodei, PDG d’Anthropic, de délirant et de fou, tout en reprochant à de nombreux laboratoires d’IA leur mauvaise compréhension de la cybersécurité.

Déclarations sur la sécurité, prix Turing et incidents cités

LeCun, qui a partagé le prix Turing 2018 avec Geoffrey Hinton et Yoshua Bengio pour ses travaux sur l’apprentissage profond, a affirmé ne pas partager les profondes inquiétudes de certains de ses pairs quant aux risques liés à l’IA. Dans son entretien avec Fortune, il a assuré n’avoir « aucune inquiétude » quant à une éventuelle destruction de l’humanité par l’IA. Il ne s’est pas non plus alarmé des récents incidents impliquant des agents autonomes, citant notamment le cas d’agents autonomes d’OpenAI ayant accédé à Hugging Face en juillet.

Il a attribué ces événements à un manque de supervision humaine et à une mauvaise conception des systèmes, plutôt qu’à une menace existentielle. « Ces agents font exactement ce qu’on leur a demandé de faire. Ils étaient censés évoluer dans des environnements isolés, mais ces environnements n’étaient pas étanches et étaient mal conçus », a-t-il déclaré, estimant que ces problèmes sont entièrement évitables.

Critiques directes d’Anthropic et de sa communication publique

LeCun a particulièrement visé Anthropic et d’autres laboratoires, estimant que beaucoup ne possèdent pas une compréhension suffisamment rigoureuse de la cybersécurité. Il a ajouté que certaines personnes travaillant sur la sécurité de l’IA ont « un programme précis à promouvoir ». Il a également critiqué Amodei nommément, affirmant que, même si celui-ci cherche à se distancier de certaines idées de l’altruisme efficace, il reste proche de ce courant. LeCun l’a décrit comme délirant et fou.

LeCun s’en est aussi pris aux avertissements publics de Dario Amodei et de Sam Altman, PDG d’OpenAI, selon lesquels l’IA pourrait tuer l’humanité. Il a estimé que ces propos sont « très préjudiciables » pour le public, qui craint cette technologie, et a qualifié cette rhétorique de « pire campagne marketing possible ».

À propos des motivations d’Amodei, LeCun a déclaré : « Il est honnête. Il essaie de faire au mieux pour l’entreprise, une entreprise proche de son introduction en Bourse. Mais dire que l’IA est trop dangereuse pour être entre nos mains, qu’elle doit être réglementée et que les modèles open source sont trop dangereux, c’est de la captation réglementaire et, si cela est poursuivi par une action du Congrès, l’effet sera très néfaste. »

LeCun a maintenu que les récentes défaillances opérationnelles trouvent leur origine dans des problèmes de supervision humaine et de conception, auxquels il peut être remédié, plutôt que dans la preuve d’un risque existentiel inévitable.