Ne traitez pas un chatbot comme un confident privé

Ne traitez pas un chatbot comme un confident. Phrase courte. Réalité brutale.

Meredith Whittaker, qui dirige l'application de messagerie sécurisée Signal, a déclaré à Bloomberg sans ambiguïté que des outils comme ChatGPT et Claude ne sont pas des compagnons conscients. Ils imitent la conversation. Ils ne ressentent rien. Ils ne vous comprennent pas comme le ferait une autre personne. Cette distinction compte plus que jamais alors que la ligne entre assistant utile et présence intrusive s'amincit de mois en mois.

Whittaker admet qu'elle utilise parfois l'IA pour des tâches banales, par exemple retoucher la mise en forme d'un document, mais elle s'abstient de lui poser des questions qui influenceraient sa réflexion. Elle protège le travail créatif et intellectuel issu des esprits humains. Pourquoi donner à un système qui agrège et moyenne ce qui existe déjà le pouvoir d'orienter nos façons de penser ou d'écrire ?

L'avertissement s'est renforcé lorsqu'elle a réagi à une récente prédiction de Mustafa Suleyman, responsable de l'IA chez Microsoft, selon laquelle des assistants comme Copilot pourraient s'occuper des achats de Noël des utilisateurs cette année. Cela semble pratique. Mais pour y parvenir, l'assistant aurait besoin d'une vue remarquablement intime de votre vie : discussions de groupe familiales, historique de navigation, cartes bancaires, adresses, calendriers, et la capacité d'envoyer des messages à des proches en votre nom. Remettriez-vous tout cela à un seul service ?

Whittaker appelle ce type de portée pour ce qu'il est : une porte dérobée vers la vie privée. Dans le contexte d'une messagerie sécurisée, un tel accès généralisé minerait les garanties mêmes que recherchent les utilisateurs. Signal n'accordera pas aux systèmes d'IA des autorisations vastes et intrusives au sein de son application.

Le débat n'est plus théorique. À mesure que les fonctionnalités d'IA s'immiscent dans davantage de plateformes, chaque nouveauté apporte un compromis : rapidité contre contrôle, efficacité contre intimité. L'endroit où vous tracez la ligne définira non seulement votre boîte de réception, mais aussi qui pourra orienter votre attention et vos choix.