Paiements aux créateurs: financement des extrémistes

De l'argent a changé de mains. Ce qui ressemblait à des paiements routiniers aux créateurs a discrètement financé des comptes liés à des néo-nazis explicites et à des organisateurs d'extrême droite, selon une enquête d'ABC Australia. L'histoire qui suit concerne moins la comptabilité que la manière dont les incitations des plateformes peuvent remodeler des recoins toxiques d'internet.

Payés pour publier : preuves et acteurs

Les enquêteurs ont retracé des paiements provenant du programme de monétisation sur invitation de Facebook vers des pages et des créateurs qui publiaient à plusieurs reprises du contenu enfreignant les règles du réseau en matière de discours de haine. Des noms ont émergé. L'un d'eux, identifié comme Hugo Lennon, a été lié à des réseaux nationalistes blancs et avait déjà été arrêté à Melbourne pour des insultes racistes visant le premier ministre indien. Malgré ce dossier, Facebook a commencé à le rémunérer en septembre dernier.

C'est ce qui alarme les chercheurs et les militants : une plateforme qui a une relation commerciale directe avec un éditeur, par le biais de royalties, de partage des revenus ou d'invitations formelles, verse de l'argent à des comptes qui diffusent une rhétorique incendiaire et souvent dangereuse. Lorsqu'une entreprise attribue l'étiquette de « créateur » à un organisateur de haine, la responsabilité devient floue.

Victoria Rio, directrice exécutive de What To Fix, une ONG de plaidoyer, l'a exprimé clairement : si Meta considère ces pages comme des partenaires commerciaux et leur accorde une part des revenus, elle assume une part de responsabilité pour le contenu que ces partenaires produisent. Ce n'est pas qu'un argument moral. C'est une question de la manière dont les incitations des plateformes se traduisent en résultats éditoriaux.

Les chercheurs spécialisés dans l'extrémisme affirment que la logique financière de la plateforme récompense ce qui génère de l'engagement. Kaz Ross, qui étudie les mouvements d'extrême droite, a déclaré aux enquêteurs que le contenu alimenté par l'indignation est souvent le moyen le plus efficace d'obtenir des clics, des commentaires et des partages. La colère se transforme en attention. L'attention se transforme en argent.

La réponse publique de Meta a été prudente. Des porte-parole ont soutenu qu'il existe une distinction entre la rhétorique haineuse et le contenu qui franchit le seuil d'incitation à la violence physique. L'offense, ont-ils dit, peut être généralisée et choquante, mais la surveillance de chaque contenu offensant n'est pas le rôle de l'entreprise. La déclaration n'a pas expliqué pourquoi des récidivistes connus avaient été intégrés au programme de monétisation sur invitation.

Le problème est structurel. Les programmes qui rémunèrent les créateurs sont censés récompenser la qualité et l'engagement durable. Mais ils ne distinguent pas toujours les créateurs soucieux de l'intérêt public des propagandistes. Les algorithmes poursuivent l'interaction. Les humains interprètent le préjudice. Lorsque ces deux dimensions ne sont pas synchronisées, les plateformes deviennent un terreau propice à la requalification du contenu extrémiste en production médiatique légitime.

Et maintenant ? Les régulateurs et les organisations de la société civile réclameront de la transparence : qui est invité, quelles vérifications sont effectuées et comment sont traitées les violations répétées lorsque des relations financières existent. Les ingénieurs de plateformes savent comment l'engagement est mesuré. Les décideurs politiques doivent décider quelle part de ce système conserver et ce qu'il convient de modifier.

L'enquête de l'ABC rappelle que les incitations comptent. Un programme conçu pour soutenir les créateurs peut aussi financer des agitateurs lorsque les mesures de protection sont faibles. Les prochaines actions de Meta seront surveillées de près, non seulement par les journalistes et les ONG, mais aussi par des gouvernements inquiets des conséquences hors ligne de l'amplification en ligne.