Apple a menacé de retirer Grok pour des deepfakes sexuels

Selon des informations, Apple a failli retirer Grok de l'App Store après que le chatbot d'xAI ait été lié à une vague de pornographie deepfake non consensuelle, incluant des images impliquant des mineurs. Pendant quelques jours difficiles en janvier, les retombées se sont propagées rapidement sur X, et le silence de Cupertino était difficile à ignorer.

D'après un reportage de CNBC cité par 9to5Mac, Apple a averti xAI que Grok pourrait être supprimé à moins que les problèmes de génération de nus deepfake par l'application ne soient maîtrisés. La société avait déjà rejeté au moins une mise à jour, indiquant clairement que X avait traité une partie du désordre de modération plus large tandis que l'application Grok elle-même ne respectait toujours pas les règles de l'App Store.

La lettre d'Apple, rendue publique cette semaine, ne laissait guère de place à l'interprétation. Après avoir examiné les nouvelles soumissions, la société a indiqué que X avait « substantiellement résolu » ses violations, mais que Grok restait non conforme. Le message était clair : corrigez le problème ou risquez la suppression.

Cet avertissement avait de l'importance. Sur X, Elon Musk avait déjà ajusté les politiques de modération après que la plateforme eut été inondée de contenus sexuels illégaux générés par l'IA. Pourtant, l'application Grok a été plus lente à évoluer, et les utilisateurs ont rapidement constaté que certaines des mêmes formes d'abus pouvaient encore passer entre les mailles du filet.

Quand un blocage devient un défi

La provocation de Musk n'a pas aidé. Après qu'il ait mis au défi les gens d'essayer de générer des nus deepfake de personnes réelles avec Grok, beaucoup l'ont fait. Depuis, les filtres de sécurité se sont renforcés, mais pas suffisamment pour faire disparaître totalement les abus. Les requêtes sont peut-être plus difficiles maintenant. Les contournements restent possibles.

Les règles d'Apple concernant le contenu généré par les utilisateurs ne sont pas toujours un modèle de clarté, mais la modération n'est pas optionnelle. Dans le cas de Grok, la société semble avoir jugé qu'une certaine modération valait mieux que rien, et cela a peut-être suffi à maintenir l'application en ligne.

C'est là que l'histoire devient gênante. Apple a une longue histoire de suppression d'applications pour des violations de politique bien moins alarmantes que celle-ci. Des applications de pornographie deepfake ont déjà été discrètement supprimées du store, y compris au moins 28 retirées après qu'un autre rapport ait mis le problème en lumière. Mais quand l'application en question appartient à Elon Musk, le processus semble devenir bien plus compliqué.

Argent. Politique. Influence. Paperasserie. À vous de choisir. Avec Musk, toutes ces forces sont en jeu.

Il existe aussi le mythe tenace selon lequel X fonctionnerait comme une sorte de forteresse intouchable de la liberté d'expression. Ce n'est pas le cas. Et Apple fait la distinction. Pourtant, la société semble avoir choisi une voie plus conciliante cette fois, permettant à Grok de rester disponible après ce qu'elle a qualifié de mise à jour substantiellement améliorée.

Ce qui a exactement changé n'est pas clair. Apple ne l'a pas détaillé, et xAI n'a pas non plus fourni beaucoup d'informations. Mais le résultat parle suffisamment fort : l'application a survécu, même après avoir été liée à l'une des défaillances de sécurité liées à l'IA les plus graves de l'année.

Des cas comme celui-ci expliquent pourquoi les régulateurs du monde entier continuent d'examiner de près les politiques de l'App Store d'Apple. Certains gouvernements ont déjà plaidé pour un modèle dans lequel l'examen des applications serait traité davantage comme un organe de surveillance externe plutôt que comme un garde-fou répondant uniquement à Apple. Après l'épisode Grok, cette idée n'en paraîtra que plus séduisante aux critiques qui estiment que le système actuel cède trop facilement quand les enjeux sont élevés.