Sam Altman alerte sur les risques majeurs de l’IA

Sam Altman, directeur général d’OpenAI, a déclaré dans le podcast Figuring Out With Raj Shamani que deux issues très différentes, mais tout aussi dangereuses, pourraient résulter d’une intelligence artificielle avancée : soit l’humanité abandonne le contrôle à des systèmes bien plus capables qu’elle, soit une seule personne, entreprise ou nation concentre un pouvoir disproportionné.

Altman a formulé cet avertissement après avoir longtemps défendu les bénéfices de l’IA tout en rejetant les discours catastrophistes. Il a résumé les deux scénarios en ces termes : « Le premier consiste à remettre le contrôle à l’IA ; nous confions délibérément ou accidentellement les rênes de l’avenir à des systèmes incroyablement plus capables que nous, sans pouvoir ensuite les reprendre. Le second scénario est qu’une personne, une entreprise ou un pays devienne trop puissant par rapport aux autres. »

Deux scénarios catastrophiques

Le premier scénario est loin de l’image cinématographique d’une révolte de robots. Il se joue de manière plus insidieuse : une délégation progressive du pouvoir de décision et de l’autorité, jusqu’à ce qu’il devienne impossible de reprendre le contrôle humain. Le second renvoie à une crainte contemporaine, souvent explorée dans la science-fiction : une technologie puissante étroitement contrôlée par un individu ou une organisation, puis utilisée pour imposer sa volonté aux autres.

Ces risques ne sont pas nouveaux pour les chercheurs et les décideurs publics, mais les avertissements d’Altman revêtent un poids particulier compte tenu de son rôle chez OpenAI. Il a reconnu l’influence de l’entreprise, déclarant : « Je pense que nous avons le plus grand nombre d’utilisateurs et la meilleure pile technologique, des puces aux centres de données, en passant par les modèles et d’autres composants : une infrastructure qui met beaucoup d’intelligence entre les mains des gens. Nous avons la meilleure marque et les valeurs que recherchent les utilisateurs de cette technologie ; néanmoins, nous voulons aussi que d’autres réussissent, et je pense que les gens le ressentent. »

Prise de décision et délégation de l’autorité

Les inquiétudes autour d’une IA incontrôlable se sont renforcées à mesure que les systèmes ne se limitent plus à fournir des réponses, mais participent à la prise de décision. Les modèles et agents IA peuvent désormais interagir sur le web et accomplir des tâches complexes avec une supervision humaine minimale. Plus les responsabilités sont déléguées à ces systèmes, plus les conséquences d’un décalage entre leurs objectifs et les intentions humaines peuvent être graves.

Il est essentiel de rappeler que les systèmes d’IA actuels fonctionnent sur la base de prédictions probabilistes. Puissants et entraînés sur d’immenses jeux de données, ils ne disposent toutefois ni du jugement ni de la compréhension propres aux humains. Ils n’ont pas besoin d’intentions malveillantes pour causer des dommages. Dans des simulations de gouvernance, par exemple, des modèles ont parfois abouti à des choix désastreux, notamment à des propositions impliquant l’utilisation d’armes nucléaires.

Si Altman insiste sur ces limites et ces risques, il reste optimiste à long terme. « Je ne sais pas ce que l’avenir nous réserve, mais je l’aborde sereinement et j’ai une profonde confiance dans la capacité des personnes à s’adapter, à progresser et à améliorer la société pour nous tous ; je pense que le monde devrait s’améliorer avec le temps », a-t-il déclaré.

Altman se montre également enthousiaste quant au potentiel de l’IA pour accélérer les découvertes scientifiques. Il imagine une machine capable d’approfondir notre compréhension du monde et de mettre au jour des avancées majeures en physique, de nouveaux traitements médicaux et de nouvelles sources d’énergie. Des résultats qu’il estime aujourd’hui difficiles à imaginer, mais rendus possibles par une meilleure compréhension scientifique. « Je suis extrêmement enthousiaste à l’idée de voir jusqu’où nous pouvons pousser l’IA pour faire progresser les nouvelles sciences », a-t-il déclaré.

Les propos d’Altman font suite à sa récente annonce selon laquelle l’IA publiera davantage de résultats mathématiques dans les semaines à venir. Ils font également écho aux commentaires de Greg Brockman, cofondateur d’OpenAI, qui a suggéré lors d’une conférence que l’IA pourrait un jour faire de la mort une option.