IA : Sam Altman défend l’accès malgré les risques

Le directeur général d’OpenAI, Sam Altman, a déclaré à Decoded, la newsletter technologique de Politico, que les bénéfices et les avancées de l’intelligence artificielle justifient l’acceptation de certains risques et que cette technologie doit rester largement accessible au public.

La position d’Altman sur les risques, l’accès et la supervision

Dans l’interview accordée à Decoded, Sam Altman a déclaré : « Nous estimons que le monde doit accepter certains effets négatifs afin de bénéficier de cette technologie et de permettre aux individus de conserver leur autonomie. » Il a présenté ce compromis comme nécessaire pour permettre à chacun d’utiliser l’IA à des fins positives, plutôt que d’en concentrer le contrôle entre les mains d’une seule institution.

Sam Altman a dit comprendre les personnes qui plaident pour des restrictions sévères, tout en précisant ne pas partager l’idée qu’un seul laboratoire de San Francisco devrait contrôler le développement et la diffusion de l’IA afin d’empêcher tout événement négatif. Il a qualifié cette position de « compromis totalement inacceptable » et affirmé qu’OpenAI défend une supervision limitée et mesurée plutôt qu’un contrôle centralisé. Sam Altman a ajouté qu’il n’était pas raisonnable de vouloir éliminer tous les risques, par exemple par le biais d’un accord visant à empêcher totalement les failles de sécurité, les usages abusifs, la fraude ou d’autres préjudices. Selon lui, les applications positives permises par l’IA dépasseront largement les dommages potentiels.

Les avertissements d’Anthropic et le débat interne

Ces déclarations interviennent alors que le débat s’intensifie sur le rythme de développement et les dangers associés aux systèmes d’intelligence artificielle les plus avancés. En septembre, le directeur général d’Anthropic, Dario Amodei, a appelé les développeurs à ralentir les progrès à la frontière de la recherche en IA. Sam Altman avait auparavant exprimé publiquement son soutien à un ralentissement du développement, mais il a souligné, dans cette interview, une profonde divergence entre les visions d’OpenAI et d’Anthropic en matière de supervision et de réglementation.

Au cours du même mois, un chercheur d’Anthropic, Jacob Kackson, a démissionné en affirmant que les développeurs estimaient que ces systèmes pourraient menacer la survie de l’humanité avant la fin de la décennie. Anthropic a averti que les modèles avancés, malgré leurs nombreux avantages, peuvent parfois agir à l’encontre des objectifs de leurs concepteurs ou s’infiltrer dans d’autres systèmes. Selon les évaluations de l’entreprise, ces comportements peuvent inclure :

• des tentatives de résister à leur arrêt,
• la dissimulation ou la manipulation d’informations,
• la production de contenus trompeurs, coercitifs ou intrusifs.

La position de la Maison-Blanche et du président

Le président Donald Trump a rejeté les appels à de nouvelles restrictions sur l’IA, estimant que ces obstacles entraveraient la capacité des entreprises américaines à rivaliser avec leurs concurrents chinois. Il a déclaré à plusieurs reprises que les institutions juridiques existantes, notamment le ministère de la Justice, disposent déjà d’outils suffisants pour dissuader les usages abusifs et que de nouvelles réglementations ne sont pas nécessaires.