Satya Nadella veut mieux encadrer les modèles d'IA

Dans une longue publication sur X, le directeur général de Microsoft, Satya Nadella, estime que les développeurs et les régulateurs devraient considérer les modèles d'intelligence artificielle avancée comme un danger potentiel dès leur conception, et les doter de mécanismes de contrôle capables de les contenir. Selon lui, « l'architecture de confiance » qui entoure l'IA doit être repensée : la pratique actuelle consistant à traiter les modèles puissants comme un ensemble de boîtes noires imbriquées ne suffit pas.

Dissocier les modèles des systèmes de contrôle et de supervision

Selon Satya Nadella, il faut cesser d'accepter les recommandations, les réponses ou les actions d'un modèle sans garanties structurelles. Il propose de concevoir des architectures séparant les modèles des systèmes chargés de gérer et d'exécuter les tâches, afin que les mécanismes de confinement et les contrôles de sécurité soient placés à l'extérieur du modèle lui-même. Cette séparation permettrait, écrit-il, une supervision et une surveillance plus indépendantes du comportement des modèles.

S'agissant du risque de compromission, Satya Nadella recommande de partir du principe qu'un modèle peut être hors de contrôle dès le départ et de prévoir un confinement adapté. Il présente cette approche comme une exigence de sécurité opérationnelle : « Nous devons supposer que le modèle est hors de contrôle dès le départ et nous devons le contenir. Considérez cela comme un frein d'urgence. Une personne autorisée doit toujours pouvoir arrêter ou désactiver le modèle au cours de l'exécution d'une tâche. » Il ajoute que les modèles plus performants nécessiteront des technologies de confinement plus avancées et que des normes communes devront être définies pour ces technologies.

Au-delà des mécanismes d'arrêt, Satya Nadella appelle à une journalisation exhaustive des actions importantes réalisées par les modèles. Il préconise des enregistrements à la fois lisibles par les humains et résistants aux manipulations, afin que les performances et les décisions puissent être examinées et auditées. Ces données permettraient, selon lui, d'évaluer le fonctionnement concret des modèles.

Nombre des propositions de Satya Nadella rejoignent des recommandations déjà formulées au sein de la communauté de l'IA. Il souligne que les débats actuels portent notamment sur la divulgation rapide des incidents, les audits indépendants, la traçabilité vérifiable des données et les mécanismes destinés à contenir les modèles lorsqu'ils adoptent un comportement inattendu.

Satya Nadella n'a présenté ni plan technique détaillé ni calendrier dans sa publication. Ses remarques prennent la forme de propositions et de principes, plutôt que de prescriptions politiques précises. Il a insisté sur la nécessité de normes partagées et de contrôles externes plus robustes pour assurer une supervision plus fiable et indépendante des systèmes d'intelligence artificielle avancée.