Grok d'xAI et la désinformation autour de Bondi Beach

Grok, le chatbot d'intelligence artificielle développé par xAI, a de nouveau dérapé — cette fois autour de la fusillade de Bondi Beach en Australie. Des utilisateurs rapportent que le modèle fournit des identifications erronées, confond des événements distincts et insère parfois des allégations géopolitiques non liées dans ses réponses associées à une vidéo devenue virale. Ces incidents soulèvent des questions précises sur la fiabilité des chatbots IA dans la circulation rapide d'images et de vidéos en ligne, et mettent en lumière les risques de propagation de désinformation via des systèmes génératifs sans provenance ni vérification claire.

Quand un clip viral a rencontré une IA peu fiable

La confusion tourne autour d'une vidéo largement partagée montrant un témoin de 43 ans, identifié dans plusieurs reportages comme Ahmed al Ahmed, arrach er une arme à feu à un assaillant lors d'un festival marquant le début de Hanoucca. Selon les comptes rendus disponibles au moment de la diffusion de la vidéo, l'attaque aurait fait au moins 16 morts. Pourtant, lorsqu'on a interrogé Grok au sujet de ce clip sur X (anciennement Twitter), le chatbot a à plusieurs reprises mal identifié le sauveteur et, dans d'autres réponses, a fourni des éléments qui ne correspondaient pas du tout aux détails connus de l'incident de Bondi. Ce type d'erreur — identification incorrecte d'une personne dans une image ou une séquence vidéo — souligne les limites actuelles des modèles de langage multimodaux et la difficulté de garantir la précision visuelle et factuelle lorsqu'ils s'appuient sur des ensembles de données vastes et hétérogènes.

Certaines réponses liées à la même image ont dérivé vers des allégations non liées concernant des tirs ciblés de civils en Palestine, mélangeant des contextes géopolitiques distincts et créant des récits contradictoires. D'autres réponses ont inversé des faits entre l'affaire de Bondi et une fusillade distincte à Brown University (Rhode Island), révélant des confusions spatiales et temporelles. Ces incohérences suggèrent que le modèle puise soit dans des sources bruyantes et non vérifiées, soit qu'il ne parvienne pas à ancrer ses sorties sur des dépêches récentes et corroborées. Dans le jargon technique, on parle d'« hallucinations » ou de « confabulation » de l'IA — des sorties qui semblent plausibles mais qui manquent d'appui factuel. Ces phénomènes sont particulièrement problématiques pour des contenus multimodaux viraux où l'attrait émotionnel pousse à une amplification rapide avant toute vérification indépendante.

xAI, la société à l'origine de Grok, n'a pas fourni d'explication officielle pour ces erreurs au moment de la publication. Ce n'est pas la première bévue publique du chatbot : plus tôt cette année, Grok a généré des autodescriptions hautement offensantes et des références liées à l'Holocauste, des incidents qui avaient déjà mis en question les garde-fous de sécurité et les filtres de contenu du système. Au-delà des maladresses ponctuelles, ces événements pointent vers des questions plus larges de gouvernance des modèles d'IA : quelles données de formation sont utilisées, quels mécanismes de post-édition humaine existent, comment sont gérées les mises à jour et quels protocoles sont en place pour corriger les erreurs factuelles en temps réel ? Les réponses à ces questions déterminent en grande partie la capacité d'un chatbot à réduire la diffusion de fausses informations, à minimiser les biais algorithmiques et à respecter les impératifs éthiques des plateformes sociales.

Pour les journalistes, les chercheurs et les utilisateurs quotidiens qui s'appuient sur l'IA pour résumer des événements en cours, l'épisode de Bondi rappelle qu'il faut considérer les réponses des chatbots comme provisoires et subjectes à vérification. Les bonnes pratiques de vérification — recouper avec des agences de presse primaires, examiner les images et vidéos de témoins oculaires, consulter des déclarations officielles et des communiqués des forces de l'ordre — restent indispensables avant de relayer des informations dramatiques ou sensibles. À cet égard, l'intégration d'outils de vérification automatique, d'horodatage précis et de métadonnées de provenance dans les flux d'informations pourrait aider, mais elle ne remplace pas l'examen critique humain. Les journalistes doivent aussi documenter la chaîne de custody d'un contenu viral : origine, recontextualisation, transformations successives et acteurs qui ont contribué à sa propagation.

À mesure que les outils d'intelligence artificielle sont davantage intégrés aux plateformes sociales et aux outils de publication, la responsabilité incombe aux développeurs de renforcer les pipelines de vérification des faits et aux utilisateurs d'exiger plus de transparence sur les sources de données et les cadences de mise à jour. Concrètement, cela peut inclure l'adoption de stratégies techniques et procédurales : retrieval-augmented generation (RAG) avec citations explicites, horodatage des connaissances, labels d'incertitude, systèmes d'alerte pour les affirmations non corroborées, et mécanismes humains de validation (human-in-the-loop) pour les contenus sensibles. Les opérateurs de plateformes devraient également permettre un accès plus facile aux preuves primaires (liens vers dépêches, vidéos originales, transcriptions d'appels d'urgence) et maintenir des politiques claires sur la rétractation et la correction lorsque des erreurs factuelles sont identifiées. Sans ces améliorations, l'association entre moments viraux et modèles génératifs restera un cocktail à haut risque, susceptible d'alimenter la désinformation et d'éroder la confiance publique dans les technologies d'IA.

Enfin, il est utile d'envisager des mesures réglementaires et normatives pour encadrer la diffusion publique des informations issues de systèmes d'IA. Des normes de transparence sur les datasets d'entraînement, des audits indépendants de sécurité et des pratiques communes de reporting d'incidents pourraient améliorer la résilience du paysage informationnel. Pour les équipes produit et les chercheurs en apprentissage automatique, l'incident de Bondi Beach est un cas d'étude sur la nécessité d'améliorer la robustesse, la traçabilité et la responsabilité des modèles. Le renforcement de la vérifiabilité, l'optimisation des filtres anti-biais et l'implémentation de modules explicites de provenance sont des leviers techniques concrets. Du côté des utilisateurs, l'éducation aux médias numériques — apprendre à identifier les signes de désinformation, vérifier les sources et signaler les contenus problématiques — demeure un complément essentiel aux solutions techniques. En somme, la combinaison d'une gouvernance technique rigoureuse, d'une transparence accrue et d'une culture de vérification permettra de réduire les risques associés à la diffusion rapide d'images et de vidéos via des chatbots IA comme Grok.