OpenAI ajoute Contact de Confiance pour risques suicidaires

Certaines personnes utilisent ChatGPT comme une barre de recherche. D'autres lui parlent comme ils enverraient un message à un ami à 2 heures du matin quand le sommeil ne vient pas. Ce second usage a poussé l'IA bien au-delà des démonstrations de produit et de l'aide au codage, et OpenAI y répond désormais par une fonction conçue pour les moments où une conversation semble devenir dangereuse.

Le nouvel outil, nommé Trusted Contact, commence à être déployé dans les paramètres de ChatGPT pour les utilisateurs adultes. Son objectif est simple sur le papier : permettre à un utilisateur de choisir une personne qui pourra être avertie si le système détecte un risque sérieux d'automutilation ou de suicide. En pratique, OpenAI cherche à construire un filet de sécurité sans transformer les conversations privées en alertes automatiques.

La configuration est volontaire. Les utilisateurs peuvent désigner une seule personne de confiance, mais cette personne doit répondre à l'exigence d'âge : au moins 18 ans dans la plupart des régions, ou 19 ans en Corée du Sud. Une fois sélectionné, le contact reçoit une invitation expliquant le rôle et dispose de sept jours pour accepter. S'il refuse, l'utilisateur peut en choisir un autre.

La suite montre clairement que OpenAI tente d'éviter tout excès. Les alertes ne sont pas envoyées automatiquement dès que le système détecte un langage préoccupant. D'abord, ChatGPT informe l'utilisateur que son Contact de Confiance pourrait être averti. Il encourage également l'utilisateur à contacter directement quelqu'un, proposant même des formules suggérées pour entamer cette conversation. Ensuite, un petit groupe d'examinateurs humains spécialement formés étudie le cas. Ce n'est que s'ils confirment que la situation indique un risque sérieux d'automutilation que OpenAI envoie une notification.

Cette notification peut arriver par e-mail, SMS ou via l'application. Elle n'inclut pas les journaux de discussion, des citations, ni un résumé de la conversation. Elle se contente d'indiquer à la personne de confiance que l'automutilation a été évoquée dans un contexte préoccupant et lui demande de prendre des nouvelles. OpenAI affirme viser à terminer l'examen humain en moins d'une heure.

Où cela s'insère dans l'élan plus large de sécurité d'OpenAI

Ce déploiement n'apparaît pas isolément. OpenAI a déjà introduit des fonctionnalités de sécurité liées aux comptes d'adolescents, notamment des alertes pour les parents lorsque des comptes liés montrent des signes de détresse. Trusted Contact étend cette idée aux adultes, ce qui en dit long sur la manière dont l'entreprise perçoit désormais l'utilisation de ChatGPT. Le chatbot n'est plus seulement un assistant de productivité. Pour de nombreux utilisateurs, il est devenu un lieu de conversations profondément personnelles et chargées d'émotion.

Selon OpenAI, la fonctionnalité a été développée avec l'apport de cliniciens, de chercheurs et de groupes de santé mentale, y compris l'American Psychological Association. Cette implication externe est importante. Tout outil qui touche au risque d'automutilation, à la confidentialité et à la réponse en cas de crise se situe dans un espace sensible où les choix de conception ont des conséquences réelles.

Il existe aussi des limites claires. Trusted Contact ne remplace pas une ligne d'assistance en cas de crise, les services d'urgence ou un soutien professionnel en santé mentale. OpenAI indique que ChatGPT continuera d'orienter les utilisateurs vers ces ressources lorsque nécessaire. Les utilisateurs peuvent supprimer ou modifier leur contact choisi à tout moment, et le contact peut se retirer quand il le souhaite.

Ce déploiement porte aussi un message plus discret. OpenAI reconnaît quelque chose autour duquel l'industrie technologique a longtemps tourné : les gens confient déjà leurs moments les plus vulnérables aux chatbots IA. Que les entreprises l'aient voulu ou non importe peu désormais. Le comportement est là. Des fonctionnalités comme Trusted Contact tentent de répondre à cette réalité avec un peu plus de prudence, un peu plus d'humanité, et la reconnaissance que même le chatbot le plus avancé ne devrait pas être la seule voix présente lorsque les choses deviennent sombres.