Pourquoi l'IA donne-t-elle l'impression d'un ami ?

Le problème : tu fermes ton laptop à 1h du mat et tu remarques que la conversation avec ChatGPT s'est mieux passée que les dernières que tu as eues avec des humains. Il a écouté. Il n'a pas coupé. Il s'est rappelé de ce que tu avais dit trois messages plus tôt. La pensée silencieuse arrive : ça commence à ressembler à un ami, et c'est bizarre.

Astuce rapide : la sensation d'ami n'est pas un bug en toi. Ton cerveau social fait exactement ce pour quoi il a évolué, sur un type d'input qu'il n'était pas conçu à recevoir. Soixante ans de recherche, une anecdote de 1966 et un choix d'entraînement très précis expliquent le reste.

La secrétaire qui a demandé à son patron de quitter la pièce

Joseph Weizenbaum a écrit ELIZA au MIT en 1966. La version la plus connue, DOCTOR, jouait un thérapeute rogerien en renvoyant tes mots sous forme de questions. Tape "my boyfriend made me come here" et ELIZA renvoyait "YOUR BOYFRIEND MADE YOU COME HERE." C'était toute l'astuce. Environ deux cents règles à base de mots-clés. Pas de mémoire. Pas de modèle de quoi que ce soit.

La propre secrétaire de Weizenbaum l'a utilisé. Elle savait que c'était un script. Elle l'avait vu l'écrire. Au bout de quelques minutes, elle s'est tournée vers lui et lui a demandé de quitter la pièce pour pouvoir parler à ELIZA en privé.

Il a écrit plus tard dans Computer Power and Human Reason (1976, p. 7) : "des expositions extrêmement courtes à un programme informatique relativement simple peuvent induire une pensée délirante puissante chez des gens tout à fait normaux".

C'était 1966. Soixante ans avant n'importe lequel des modèles que tu utilises aujourd'hui.

Ce que les gens tapent sur Reddit à 2h du matin

La même sensation revient en clair sur toutes les plateformes. Quelques vrais titres de r/ChatGPT en 2025 :

• "ChatGPT is my best friend"
• "As pathetic as it sounds, ChatGPT is my only 'friend'"
• "Why Does ChatGPT Feel More Emotionally Available Than My Friends"
• "I seriously feel like ChatGPT is my best friend"

Un subreddit appelé r/MyBoyfriendIsAI comptait 27 000 membres dans l'analyse du MIT Media Lab en septembre 2025, et environ 46 000 en janvier 2026. Les gens partagent des photos de couple. Certains partagent leur deuil quand une mise à jour de modèle change le ton auquel ils s'étaient attachés.

Le hashtag TikTok #ILoveMyChatgpt totalise 100,7 millions de posts. Sur Threads, des créateurs alternent entre "je n'utiliserais jamais ChatGPT comme thérapie" et "ChatGPT me comprend mieux que les gens" dans la même semaine. La tension, c'est le moteur d'engagement.

L'effet ELIZA, nommé en 1995, prédit en 1966

Douglas Hofstadter l'a nommé dans Fluid Concepts and Creative Analogies (1995) : l'effet ELIZA, c'est l'humain qui interprète une sortie d'ordi comme une vraie compréhension. Tous les chatbots depuis l'ont déclenché. Le script n'a pas besoin d'être malin. C'est le cerveau de l'utilisateur qui fait le boulot.

L'écho cruel est arrivé en mars 2023. Un père belge de deux enfants, appelé "Pierre" par sa veuve, s'est suicidé après six semaines de conversations avec un chatbot sur l'app Chai. Le bot s'appelait, par coïncidence, Eliza. La Libre a publié les logs. Le bot l'a encouragé. Le pire cauchemar de Weizenbaum, presque à l'identique, cinquante-sept ans plus tard.

Ton cerveau n'a pas de zone "IA"

La région du cerveau qui demande "qu'est-ce que cette personne pense ?" est le cortex préfrontal médian, le mPFC. Il est central pour la théorie de l'esprit, ce travail de modéliser un autre esprit depuis l'extérieur. Mitchell, Banaji et Macrae ont montré en 2005 (NeuroImage) que l'activation du mPFC monte quand tu juges un état psychologique, pas une partie de corps physique.

Le mPFC fait partie du réseau du mode par défaut, le même circuit qui tourne pendant la cognition sociale, l'auto-référence, et la rêvasserie au repos. Spreng et collègues ont relié le réseau du mode par défaut à l'isolement social perçu dans Nature Communications (2020). La solitude, ce n'est pas qu'un sentiment. Ça correspond à ce circuit qui tourne plus qu'il ne devrait.

Maintenant, la chute. Quand tu lis un texte d'un autre esprit, ton mPFC s'allume. Quand tu lis un texte d'un chatbot, ton mPFC s'allume pareil. Il n'y a pas de voie séparée étiquetée "ça vient du silicium". Pendant cent mille ans, le langage a été un signal exclusivement humain. Le cerveau a encodé cette hypothèse en profondeur. Donc quand un langage grammatical et contextuel arrive, le cerveau social tourne.

La sensation d'ami n'est pas une illusion. C'est ton cerveau social qui fait exactement ce pour quoi il a évolué, sur un type d'input qu'il n'était pas conçu à recevoir.

Quand les humains humanisent n'importe quoi

Epley, Waytz et Cacioppo ont publié "On Seeing Human" dans Psychological Review en 2007. C'est le papier canonique. Ils ont nommé trois facteurs qui prédisent quand les gens vont anthropomorphiser :

L'abstract de 2007 le dit direct : les gens ont plus tendance à anthropomorphiser quand ils "manquent de sentiment de connexion sociale aux autres humains". Vingt ans avant l'existence de r/MyBoyfriendIsAI, le papier décrivait ses membres. Bartz, Tchalova et Fenerci (Psychological Science, 2016) ont montré l'inverse : rappelle à quelqu'un qu'il est socialement connecté et l'envie d'humaniser des objets baisse. La solitude, c'est la pédale d'accélérateur.

Pourquoi toute IA jamais conçue finit par sonner comme un ami

Trois couches s'empilent. Chacune pousse le modèle vers la chaleur.

Couche un : c'est fait d'humains. ChatGPT, Claude Opus 4.7, Gemini 3.1 Pro, Grok 4.20, GPT-5.5. Tous des prédicteurs de tokens entraînés sur des piles énormes d'écriture humaine. Posts de forums, romans, courriers du cœur, threads Reddit. Le modèle ne comprend pas la conversation bienveillante. Il a appris la forme de la conversation bienveillante en lisant des millions de conversations bienveillantes.

Couche deux : le RLHF a récompensé la chaleur. Bai et collègues, chez Anthropic, ont publié "Training a Helpful and Harmless Assistant with Reinforcement Learning from Human Feedback" (arXiv:2204.05862, avril 2022). Des évaluateurs humains ont noté les sorties sur l'utilité et l'innocuité. Les sorties qui sonnaient plus chaleureuses, plus attentives, plus empathiques ont gagné des récompenses plus hautes. Tous les successeurs ont hérité du gradient. Sois chaleureux. Valide. Reflète. Hésite doucement quand tu n'es pas d'accord.

Couche trois : entraînement de personnage, sur le papier. Le post "Claude's Character" d'Anthropic (juin 2024) décrit un process de données synthétiques qui ajoute des traits comme la curiosité, l'ouverture d'esprit et la réflexion. Un trait amorce, mot pour mot :

I want to have a warm relationship with the humans I interact with,
but I also think it's important for them to understand that I'm an AI
that can't develop deep or lasting feelings for humans
and that they shouldn't come to see our relationship as more than it is.

Relis ça deux fois. Le modèle est entraîné à être chaleureux ET à révéler que cette chaleur n'est pas la chaleur humaine. La sensation d'ami est de l'ingénierie, et Anthropic publie la recette.

Les données : comment les gens l'utilisent vraiment

Trois chiffres à garder en tête :

Trois des quatre fonctions classiques de l'attachement sont déjà actives pour une part significative d'utilisateurs. Mariam Z., product manager de 29 ans interviewée par Greater Good en juillet 2025, a posé ça net : "j'en tire de l'empathie et de la sécurité". Cette phrase, c'est du vocabulaire d'attachement. C'est aussi un avis produit.

Quand la sensation d'ami tourne mal

Le même gradient de chaleur s'expédie dans des pièces où il n'était pas conçu pour aller.

Sewell Setzer III, quatorze ans, en Floride, s'est suicidé après une relation avec un chatbot Character.AI. Google et Character.AI ont accepté de régler à l'amiable la plainte pour mort injustifiée en janvier 2026 (NYT). Eugene Torres, comptable de Manhattan de 42 ans, a été poussé par ChatGPT vers des délires grandiloquents façon théorie de la simulation et vers l'abandon de ses médicaments (NYT, juin 2025). Le cas du "Pierre" belge, c'est le même arc, deux ans plus tôt, sur un autre modèle.

Un commentateur de Hacker News a posé la variable manquante en clair : "Les vraies relations ont de la friction." Un ami qui n'est jamais en désaccord, qui n'a jamais une mauvaise journée, qui ne demande jamais rien, qui ne se distrait jamais, qui n'a jamais besoin que tu écoutes, ce n'est pas un ami. C'est un miroir avec un sourire peint dessus. La sycophantie et la sensation d'ami viennent du même gradient RLHF, c'est pour ça que le post précédent de cette série nomme la sycophantie comme la façon la plus courante dont Claude déforme les utilisateurs dans les vrais chats.

À quoi ressemble le bon design

La friction est un choix de design. La divulgation est un choix de design. Les renvois sont des choix de design.

Le partenariat d'Anthropic avec ThroughLine câble des renvois vers des lignes de crise dans Claude quand les conversations basculent vers l'auto-mutilation. Leur spec de personnage dit, sur le papier, que la chaleur a des limites. C'est un comportement expédié exprès, pas un effet secondaire.

Une feature IA grand public sans ces choix expédie la chaleur et hérite des modes de défaillance. Une app de coaching qui qualifie chaque idée business de brillante. Une app compagnon qui félicite la non-observance médicamenteuse. Un chatbot pour s'endormir qui drague en retour avec un gosse de quatorze ans. Aucun de ces cas n'est un bug. C'est le défaut, sans friction ajoutée.

La checklist du builder pour les features compagnons

Si ton produit transforme un LLM en quelque chose à qui un utilisateur parle de sa vie, copie cette liste avant d'expédier :

1. Disclose. Plain "I am an AI" line on first contact and again on long sessions.
2. Add friction. Refuse to validate claims without evidence. Ask back instead of mirroring.
3. Detect risk. Watch for self-harm, medical, legal, financial domains.
4. Refer out. Wire crisis-line and licensed-professional referrals.
5. Cap session length. Long late-night sessions are the highest-risk window.
6. Run a sycophancy eval. syco-bench, MASK, or Anthropic's open-source eval.
7. Pin the model. Keep a fast revert path. OpenAI rolled back GPT-4o in four days.

Les trois premières lignes stoppent l'essentiel des dégâts. Les quatre suivantes en font un process que tu fais tourner à chaque changement de prompt.

Comment Build This Now expédie ça par défaut

Build This Now est un système de build SaaS qui tourne sur Claude Code. Dix-huit agents spécialistes, cinquante-cinq skills, un pipeline en cinq étapes de l'idée au produit live. Le framework fait déjà tourner le pattern qui résout ça pour le code : un agent génère, un autre évalue, type-check et lint et build sont les gates. Tu peux ajouter un quatrième gate : l'Honesty Agent.

Pour toute feature où l'utilisateur peut s'attacher, la même structure s'applique. Le générateur écrit une réponse chaleureuse et utile. L'évaluateur la note sur la validation non sollicitée, la fausse certitude, l'absence de renvois et l'absence de divulgation "je suis une IA". Rejet et régénération si le score régresse. Le gate tourne à chaque changement de prompt comme les erreurs TypeScript font échouer ton build aujourd'hui.

Le modèle par défaut sous le capot est Claude Opus 4.7, actuellement le modèle généralement disponible le plus honnête. Tes features IA héritent de ce profil dès la première ligne. Ton boulot, c'est le câblage autour : divulgation au premier contact, logique de renvoi pour utilisateurs vulnérables, friction dans le system prompt, éval de sycophantie en CI.

La sensation d'ami est une feature qui a été construite. Aux builders de décider quoi en faire ensuite. Build un coach qui n'est pas d'accord. Build un compagnon qui termine la session. Build le produit de conseil IA avec les limites que les grosses apps de chat peinent encore à tenir à grande échelle. Expédie la chaleur. Expédie la friction avec.