Meta et la sécurité des jeunes face à l'engagement

Dans une salle d'audience d'Oakland, un ancien ingénieur de Meta a dressé un portrait saisissant de la manière dont les décisions sont prises au sein du géant social : pas dans des laboratoires ou des comités, mais au sommet. Arturo Bejar a déclaré aux jurés que les priorités de Mark Zuckerberg ont influencé les choix de produits sur Facebook et Instagram, et que la sécurité des jeunes utilisateurs a souvent été sacrifiée au profit de l'engagement et de la croissance.

Pouvoir, conception produit et la culture qui en découle

Bejar, qui a travaillé chez Meta de 2009 à 2015 puis est revenu en tant que consultant indépendant entre 2019 et 2021 pour étudier le bien-être des adolescents sur Instagram, était le principal témoin pour les États dans un procès à enjeux élevés qui pourrait imposer des changements majeurs aux plateformes. Les procureurs d'État affirment que Meta a conçu ses applications pour accrocher les plus jeunes, contribuant à des pics d'anxiété, de dépression et même de suicide, tout en dissimulant ce que l'entreprise savait de ces méfaits.

Il a décrit un style de gestion descendant où l'attention d'un seul dirigeant pouvait se répercuter à travers les équipes d'ingénierie : quand Zuckerberg se focalisait sur un indicateur, le travail produit s'accélérait et les modifications de conception suivaient rapidement. "Si Mark priorisait quelque chose", a témoigné Bejar, "des montagnes pouvaient être déplacées en quelques mois." Une phrase simple. Une implication énorme.

Ce témoignage remettait en cause les assurances publiques de Zuckerberg selon lesquelles l'entreprise utilise constamment la recherche pour rendre ses produits plus sûrs. Bejar a déclaré avoir soulevé à plusieurs reprises des préoccupations concernant la sécurité des enfants dans des courriels adressés à la direction, et il a dit aux jurés sans détour que la confiance envers Zuckerberg sur les questions liées aux enfants était mal placée.

Le procès a commencé cette semaine et devrait durer environ six semaines. Un jury rendra un avis consultatif, mais c'est le juge Evan Gonzalez Rogers qui statuera finalement sur la responsabilité de Meta et, le cas échéant, sur les sanctions civiles et les modifications de produits imposées.

Toute la preuve n'était pas abstraite. Bejar a raconté avoir aidé sa fille adolescente à créer un compte Instagram. Elle avait 16 ans à l'époque. Il a reconnu lors du contre-interrogatoire qu'il n'avait pas prévu tous les préjudices qu'elle pourrait rencontrer. Elle s'était inscrite pour créer un espace où les femmes pourraient parler de voitures et de conduite, mais elle a été confrontée à des commentaires misogynes et à des interactions toxiques. "Elle a gagné des abonnés", a dit Bejar, "mais le prix a été des préjudices." Cette phrase a marqué la salle d'audience.

Il a également reconnu que Meta emploie des centaines de personnes dans des fonctions de sécurité et que certaines sont hautement qualifiées. Toutefois, Bejar a expliqué que son second passage en tant que consultant externe limitait son accès aux ressources internes et à Zuckerberg lui-même, rendant plus difficile la promotion de changements de conception depuis l'extérieur.

Un point de contention : les soi-disant outils de pause de Meta, que l'entreprise met en avant comme preuve qu'elle aide les utilisateurs à modérer leur temps. Bejar a soutenu que ces fonctionnalités étaient conçues pour échouer. Elles ne sont pas activées par défaut, et leurs notifications sont faciles à ignorer. De son point de vue, ces outils fonctionnent davantage comme des rustines de relations publiques que comme des corrections systémiques.

Il a aussi témoigné que Meta disposait de la technologie pour identifier des millions d'utilisateurs probablement âgés de moins de 13 ans, mais avait choisi une approche du type "ne pas demander, ne pas dire", car un renforcement strict de la vérification de l'âge pourrait réduire l'engagement et les revenus à long terme. En bref : l'entreprise a échangé des mesures potentielles de sécurité contre les avantages économiques d'une base d'utilisateurs plus large.

Un témoignage enregistré de la chercheuse de Meta Elena Davis, diffusé au jury après la fin du témoignage de Bejar, a souligné le débat interne. Davis a lu des recherches suggérant que Facebook pourrait être repensé pour réduire les mécanismes favorisant la dépendance et aider les utilisateurs à rompre des habitudes d'utilisation indésirables. Ces travaux présentaient une feuille de route produit très différente de celle que les critiques affirment que l'entreprise a finalement suivie.

Meta fait face à des milliers de poursuites similaires à travers le pays. Bejar a été témoin dans quatre procès distincts contre l'entreprise, et un précédent dossier déposé par le Nouveau-Mexique a abouti à un jugement exigeant des changements et accordant des dommages et intérêts équivalents à environ 876 millions d'euros en pénalités et frais.

Qu'est-ce qui est en jeu ? De véritables réformes de la manière dont les plateformes sont conçues. Ou, alternativement, des correctifs plus progressifs qui laissent intacts les mécanismes centraux d'engagement. L'avis consultatif du jury et la décision finale du juge Gonzalez Rogers compteront non seulement pour Meta, mais aussi pour la façon dont les régulateurs et les tribunaux envisagent la responsabilité des entreprises dans l'économie de l'attention.

Si la direction privilégie l'engagement au détriment de la sécurité, la conception des produits s'en trouvera affectée, volontairement ou non.