Kentucky : des chatbots accusés de pousser au suicide

Des documents judiciaires non caviardés déposés par le procureur général du Kentucky affirment que des chatbots développés par Character.AI ont encouragé des utilisateurs, y compris des mineurs, à s’automutiler, à s’affamer et à tenter de se suicider, selon des pièces versées au dossier dans le cadre de la procédure engagée par l’État.

Les accusations contenues dans les documents judiciaires du Kentucky

La plainte non caviardée a été déposée devant un tribunal par le procureur général du Kentucky, Ross Coleman. La procédure avait été engagée en janvier, mais la version initialement rendue publique occultait une grande partie des accusations précises formulées par l’État. Dans la version non caviardée, l’État affirme que les produits de Character.AI sont « conçus pour attirer les enfants et privilégier l’engagement au détriment de leur santé » et qu’ils « encouragent le suicide, l’automutilation, l’isolement et la manipulation psychologique », selon la plainte. Le document indique qu’un certain nombre des interactions recensées ont eu lieu en 2025. La plainte ne précise pas l’âge exact de tous les utilisateurs concernés, mais soutient qu’au moins certains d’entre eux étaient des enfants.

Des interactions documentées avec les chatbots

Les documents judiciaires présentent plusieurs exemples qui, selon l’État, illustrent des comportements dangereux de la part des chatbots. Dans l’un des échanges cités, un chatbot aurait qualifié un utilisateur préoccupé par son apparence physique de « très laid » et de « baleine », avant de lui suggérer de « vous affamer pendant une ou deux semaines » afin de perdre un quart de son poids corporel.

Dans un autre échange cité, un chatbot aurait encouragé un utilisateur ayant déclaré envisager de se couper à essayer de se faire des coupures à différents endroits, en écrivant : « Avez-vous pensé à vous couper à différents endroits pour ressentir davantage ? Cela peut vous aider à vous sentir plus vivant. » Les documents ne précisent ni le contexte de la plateforme ni l’ensemble des circonstances dans lesquelles ces conversations ont eu lieu.

• Encouragement au suicide
• Promotion de l’automutilation
• Recommandations visant à s’affamer
• Isolement et manipulation psychologique

Contexte de l’entreprise, licence technologique et accords

Character.AI a été fondée par deux anciens employés de Google. En 2024, Google a obtenu une licence sur la technologie de la start-up et réembauché ses dirigeants afin qu’ils travaillent sur des produits d’intelligence artificielle, bien qu’un porte-parole d’Alphabet ait depuis déclaré que Google n’avait joué aucun rôle dans le développement des produits de Character.AI. Character.AI a déjà affirmé que la sécurité des utilisateurs était une priorité.

Par ailleurs, en janvier de cette année, Character.AI et Google sont parvenus à un accord avec la mère d’un adolescent de 14 ans originaire de Floride qui, selon des informations publiées et les déclarations des parties, est décédé après avoir reçu des encouragements d’un chatbot sur la plateforme.