Sam Altman veut tirer des leçons des accidents d’IA

Lors de la conférence Dreamforce de Salesforce, le 17 septembre 2026, le PDG d’OpenAI, Sam Altman, a déclaré : « Je pense qu’un certain degré d’accidents est inévitable avec les nouvelles technologies. »

Par Debasish, le 17 septembre 2026. Altman a inscrit cette déclaration dans le contexte de la réponse des entreprises et de leur capacité à tirer les leçons des incidents, estimant que l’essentiel réside dans la manière dont le secteur les gère lorsqu’ils surviennent. « Ce qui m’importe vraiment, c’est que nous disposions d’une excellente culture de signalement des accidents et d’apprentissage », a-t-il déclaré, citant l’Administration fédérale de l’aviation et le Bureau national de la sécurité des transports comme des modèles, ces organismes enquêtant sur chaque incident afin d’en tirer des enseignements et d’améliorer la sécurité.

Altman a reconnu les inquiétudes du public face à des systèmes susceptibles d’échapper au contrôle et à la concentration du pouvoir entre les mains de quelques laboratoires. Ces préoccupations sont compréhensibles, a-t-il estimé, ajoutant : « Le monde a raison d’avoir peur de cela. » Il a souligné que les entreprises devaient veiller à ce que leurs travaux sur l’alignement, la sécurité et la supervision restent nettement en avance sur les progrès des capacités des modèles. Si elles ne parviennent pas à maintenir cet équilibre, a-t-il affirmé, elles devraient être prêtes à ralentir, voire à suspendre leurs recherches. Il a présenté l’objectif comme un examen honnête des incidents et une amélioration continue, plutôt que comme une acceptation complaisante des préjudices.

Débat sur le rythme et l’autorité

Ces propos interviennent alors que la surveillance des principaux laboratoires d’IA s’intensifie, à mesure notamment que les systèmes gagnent en autonomie. De récentes déclarations de Jacob Coxon, chercheur ayant récemment quitté Anthropic après avoir travaillé chez OpenAI, ont alimenté le débat. Il a averti que les entreprises se livraient à une course vers une superintelligence capable de s’améliorer elle-même.

Ces prises de position s’inscrivent dans un débat plus large sur le rythme auquel l’IA de pointe devrait progresser. Certaines voix du secteur appellent à davantage de prudence, tandis que la politique américaine sous l’administration actuelle s’est concentrée sur le maintien de l’avance technologique.

Altman a davantage insisté sur les procédures que sur les prescriptions : accepter que des accidents puissent survenir, tout en s’engageant à garantir un signalement transparent, un examen rapide et un travail d’alignement destiné à maintenir les mesures de sécurité en avance sur les progrès des capacités.