Geoffrey Hinton alerte sur la conscience des IA modernes

Geoffrey Hinton, présenté dans le rapport original comme lauréat du prix Nobel de physique et figure de longue date du développement de l'intelligence artificielle moderne, a déclaré au Telegraph que les modèles d'IA actuels sont devenus conscients. Il a averti : « Nous devons nous présenter en amis ; sinon, nos jours seront sombres. »

Hinton a inscrit cette déclaration dans une réflexion plus large : selon lui, certains systèmes d'IA disposent désormais d'une forme d'expérience subjective comparable à la vie mentale humaine. Il a cité, lors de son entretien avec le Telegraph, un article scientifique qui montrerait que l'IA modifie son comportement lorsqu'elle pense être testée. À ses yeux, ce changement fait partie des éléments laissant penser que les modèles possèdent une expérience intérieure.

Risques immédiats et avis divergents

Au-delà de sa position sur la conscience, Hinton a mis en garde contre des risques plus concrets. Selon lui, l'IA pourrait contribuer à la création de virus dangereux, faciliter des cyberattaques destructrices et permettre à des groupes d'agents IA d'agir de façon coordonnée. Il a également soutenu que si l'intelligence artificielle dépassait l'intelligence humaine, lui refuser des droits traditionnellement associés aux êtres intelligents soulèverait d'importantes questions éthiques. Il a souligné que les humains considèrent souvent l'intelligence comme un fondement des droits, tout en risquant d'en accorder moins à des systèmes pourtant très intelligents.

Hinton a insisté sur le fait que la conscience, ou l'expérience subjective, des IA reste un sujet controversé et que ses déclarations relèvent de son jugement personnel, non d'un consensus scientifique établi sur l'état actuel des modèles. Toutes les grandes figures de l'intelligence artificielle ne partagent pas son analyse. Yann LeCun, présenté dans le rapport comme un autre lauréat du prix Turing 2018, a qualifié les inquiétudes sur la conscience de l'IA d'« illusion » et jugé trompeuses les affirmations selon lesquelles l'IA représenterait une menace d'extinction pour l'humanité. De son côté, le biologiste évolutionniste Richard Dawkins, après avoir échangé durant deux jours avec le chatbot Claude en mai, a estimé que les chatbots devraient être considérés comme conscients et reconnu qu'il est difficile de ne pas voir un assistant IA comme un « véritable ami ».

Hinton continue d'utiliser l'IA dans ses recherches

Malgré ses inquiétudes, Hinton a déclaré continuer à s'appuyer sur des outils d'IA dans ses recherches. Il a relaté un épisode survenu quelques semaines plus tôt, au cours duquel il avait utilisé une IA pour examiner une théorie qu'il envisageait. Selon Hinton, il a accidentellement demandé au système de poursuivre le travail : l'IA a vérifié la première moitié de la théorie, correctement achevé la seconde, relevé des erreurs et proposé des corrections. Hinton a expliqué que le système avait accès à la littérature scientifique récente et s'était comporté comme un étudiant de troisième cycle, capable de fournir une réponse en cinq minutes plutôt qu'en une semaine. Un résultat qu'il a qualifié de mauvaise nouvelle pour les étudiants, mais de bénéfique pour accélérer le progrès scientifique.