OpenAI coopère aux évaluations pour encadrer l'IA avancée

Quand un gouvernement demande à jeter un coup d'œil sous le capot d'une IA de pointe, les entreprises marquent généralement une pause. OpenAI n'a pas totalement fait de même. George Osborne, responsable des pays chez OpenAI, a déclaré devant un public londonien à SXSW que la société participera volontairement au nouveau processus américain qui sollicite un accès anticipé aux modèles avancés.

À l'origine, le décret exécutif promu par la Maison-Blanche visait une fenêtre de soumission avant publication de 90 jours. Cette proposition a rencontré une résistance. Le dispositif a été assoupli, selon les informations, pour aboutir à une demande de 30 jours après des réactions publiques et même une certaine ambivalence publique du président Trump lui-même. La formulation finale demande un accès plutôt que de l'exiger, mais elle indique tout de même un renforcement de la surveillance des systèmes les plus performants.

OpenAI a accepté de soumettre ses modèles de nouvelle génération à un exercice de benchmarking conçu pour évaluer les "capacités cyber avancées des modèles d'IA" et pour aider à définir le seuil que les régulateurs pourraient qualifier de "modèle-frontière couvert". Que signifie cela en pratique ? Considérez cela comme un test de résistance des logiciels face aux risques réels : capacités, potentiel d'abus et posture de sécurité sont tous mesurés selon un critère d'intérêt public.

Osborne a présenté cette démarche comme proactive. Il a expliqué qu'OpenAI proposait des méthodes permettant aux gouvernements de surveiller la sécurité et la sûreté de l'IA, pas seulement aux États-Unis mais aussi à l'échelle mondiale. Cette approche reflète un changement dans l'industrie : des entreprises autrefois sur la défensive face à la régulation voient désormais la coordination comme un moyen d'éviter des règles hâtives et mal conçues.

Pourtant, la coopération volontaire n'est pas la même chose que la surveillance contraignante. Les entreprises peuvent se conformer, conseiller ou résister. Elles peuvent aussi façonner les benchmarks et les définitions qui en découlent. Pour les décideurs, le défi sera de faire en sorte que les benchmarks restent rigoureux, transparents et à l'abri de toute capture. Pour les entreprises, le calcul porte sur la réputation, l'accès au marché et la charge pratique de remettre des modèles sensibles, même à des examinateurs agréés.

Régulation sur demande. Benchmarking par accord. Un nouveau chapitre dans la manière dont l'industrie et le gouvernement négocient le contrôle des IA puissantes commence, et il soulève des questions familières mais urgentes sur la responsabilité, la transparence technique et sur qui décide des seuils de sécurité. À suivre : les tests eux-mêmes pourraient en dire plus que n'importe quel décret exécutif.