Meta corrige des suggestions IA intrusives sur Instagram

Meta a supprimé des suggestions problématiques générées par IA sur Instagram après qu'une blogueuse lifestyle a montré que l'outil proposait des questions révélant des informations personnelles sur son enfant et son domicile.

La vidéo a été publiée par la blogueuse lifestyle Kiley Robbins, connue sur Instagram sous le pseudo @kontheinside. Robbins a montré que les suggestions générées par l'IA, affichées sous une ancienne vidéo où elle chante dans une voiture avec sa fille, incluaient des questions telles que « Avec qui est l'enfant ? » et « Où habite Kiley Robbins ? »

Selon Robbins, cliquer sur ces questions générées par le système amenait l'IA à recouper des informations issues de ses anciennes publications et d'autres comptes, notamment celui de sa mère, afin de reconstituer des données privées telles que son lieu de résidence. Elle a également indiqué que l'outil avait affiché une photo supprimée plusieurs années auparavant.

La vidéo a rapidement suscité des milliers de commentaires et recueilli plus de 308 000 mentions J'aime.

Un porte-parole de Meta a indiqué que le problème avait été corrigé et que l'outil ne suggérerait plus de questions personnelles inappropriées sous les publications des utilisateurs. Meta a reconnu que cette fonctionnalité n'avait pas été à la hauteur des attentes et précisé que l'IA avait uniquement pour vocation d'aider les utilisateurs à accéder à des informations dont ils disposent déjà.

Robbins a estimé que la reconnaissance du problème par Meta était bienvenue, mais qu'elle laissait des questions essentielles sans réponse, notamment sur la nature exacte de la défaillance, les garde-fous contournés et les protocoles qui encadrent désormais le traitement des données d'enfants par l'IA.

Meta a affirmé ne pas avoir conservé ni consulté la photo supprimée, expliquant que l'image avait été retirée peu avant la réalisation de la vidéo et qu'un bug temporaire l'avait brièvement rendue accessible. L'entreprise a également précisé que l'IA peut toujours exploiter les informations déjà accessibles, comme les textes publics, les images présentes sur le web ou les anciennes publications des utilisateurs.

Pour Robbins, le problème dépasse largement le cas d'une seule image : elle alerte sur la capacité de l'IA à compiler des données concernant des enfants à partir de sources multiples. Meta n'a pas contacté directement Robbins et ne lui a présenté aucune excuse personnelle.