OpenAI informe les parents des comptes ChatGPT à risque

Une nouvelle forme de notification a discrètement atterri dans les boîtes mail des parents : lorsqu'un adolescent voit son compte ChatGPT suspendu pour menaces ou comportement violent, son parent ou tuteur peut désormais en être informé. C'est un changement qui considère la sécurité liée à l'IA moins comme un réglage produit et davantage comme un signal de sécurité publique.

Ce changement fait suite à de vives critiques après la fusillade de masse de 2025 à Tumbler Ridge, au Canada, où les enquêteurs ont découvert que l'accusé avait utilisé ChatGPT avant l'attaque. Les responsables canadiens se sont interrogés sur les raisons pour lesquelles OpenAI n'avait informé personne lorsque le compte avait été désactivé. Sam Altman, le PDG d'OpenAI, a présenté des excuses pour cette lacune et l'entreprise a entrepris de repenser sa manière de signaler les comportements à haut risque.

OpenAI a développé le système de notification en partenariat avec Moonshot, un groupe axé sur les préjudices en ligne et l'intervention précoce. Vidya Ramalingam, fondatrice de Moonshot, présente cette fonctionnalité comme une première étape pragmatique : informer rapidement les familles lorsqu'une préoccupation sérieuse survient et les orienter vers des ressources et des mesures à prendre. L'alerte précoce, selon elle, rend l'aide précoce possible.

Comment cela fonctionne-t-il ? Les parents liés au compte d'un adolescent reçoivent un message intitulé "Changements importants sur le compte de votre enfant." Un clic sur "En savoir plus" explique que le compte a été désactivé pour violation des règles relatives aux menaces ou aux actes violents. L'alerte est volontairement directe, conçue pour réduire toute ambiguïté et accélérer la réaction de la famille.

Cette mise à jour s'ajoute à d'autres outils parentaux qu'OpenAI a déjà déployés : limites sur les heures d'utilisation, diminution de l'exposition aux contenus sensibles et modes éducatifs qui guident les élèves pas à pas avant d'afficher une réponse finale. ChatGPT encourage aussi les plus jeunes à prendre des pauses régulières, une petite incitation vers des habitudes d'écran plus saines.

Il y a des compromis. Certains diront que cela frôle la surveillance parentale. D'autres estimeront que c'est une couche responsable de supervision pouvant prévenir l'escalade. Le véritable test sera l'utilisation de ces alertes, si elles entraînent une intervention de soutien ou une réaction punitive excessive.

En fin de compte, OpenAI mise sur le fait que des signaux transparents, envoyés aux familles et soutenus par des ressources, permettront de détecter les comportements dangereux plus tôt, plutôt qu'après une tragédie.

Si cette approche réduit les dommages dans le monde réel dépendra de la coordination entre les plateformes, les familles et les autorités locales. Un clic peut lancer une conversation. Sera-t-il le bon ?