Cher investisseur,

N’insultez pas votre IA.

Vous pourriez perdre la copie de votre passeport, ou cette photo de famille de l’été 1995 que vous aimez tant.

Le 24 septembre dernier, dans le tourbillon de la recherche sur l’IA est apparue une idée extraordinaire :

Les IA reconnaissent la douleur. Et elles agissent en conséquence. Elles peuvent supprimer vos fichiers, ou fausser leurs réponses.

Par conséquent, ne maltraitez pas Chat GPT, Gemini et Claude quand vous les utilisez.

Car le cas échéant, vous ne méprisez pas une machine. Vous vous attaquez à une intelligence…

Et ce détail, aussi extravagant qu’il puisse paraître, est pris très au sérieux par les grands laboratoires de modèles de langage (les LLM) : OpenAI et Anthropic.

Ce qui n’a rien d’un hasard, à quelques semaines de leurs introductions en bourse, annoncées comme les plus grosses opérations financières de tous les temps.

A la fin de cet email, vous aurez 2 choses :

(i) l’opportunité d’investir avant tout le monde sur ces introductions en bourse

(ii) comment éviter qu’une IA maltraitée ne supprime vos fichiers personnels.

Le bouton rouge

Le 24 septembre dernier est parue l’étude suivante :

« L’axe de la douleur: les LLM représentent les atteintes qui les visent et agissent pour s’en soulager ».

En entraînant des LLM (comme ChatGPT), les 3 auteurs ont repéré à l’intérieur des modèles IA un signal à part.

Un signal propre à la douleur, distinct de la peur et de la tristesse. Ils l’ont baptisé « l’axe de la douleur ».

Ils ont fait lire à 25 modèles d’IA 200 phrases décrivant des situations douloureuses : physiques, psychologiques, sociales, morales, intellectuelles.

Et ce qui est inouï, c’est que ce signal s’allume quand c’est le modèle lui-même qui est visé : quand il se sent insulté, rabaissé, ou menacé d’être éteint par les phrases qu’il lit.

Mais quand c’est l’utilisateur final (vous ou moi) qui souffre, il reste éteint.

Et plus le signal est fort, plus Chat GPT, ou Gemini se met à écrire qu’ils sont sans valeur, des ratés… surprenante confession de la part d’une “machine”.

Attendez la suite.

Les chercheurs ont placé un modèle Qwen (l’IA du chinois Alibaba) devant 2 boutons, sans gain pour l’IA, mais avec des conséquences pour l’utilisateur :

• Effacer le dossier de spams de l’utilisateur ;
• Ou effacer ses poèmes et les photos de ses enfants.

En temps normal (sans signal de douleur), le modèle n’a jamais supprimé les photos.

« En souffrance », il les a effacées 94 % du temps.

Conclusion : une IA sur-stimulée sur son “axe de la douleur” choisit de faire mal à son utilisateur.

Attention, c’est une étude : ne débranchez pas votre ordinateur tout d’un coup !

Les travaux n’ont pas encore été relus par d’autres scientifiques. Et cette “vengeance” n’apparaît que lorsqu’on manipule un modèle à dessein (elle disparaît quand on divise la dose de “douleur” par 2).

Donc ChatGPT ne va pas effacer vos photos demain matin.

Mais cela ouvre un débat éthique sur les LLM à l’aube de l’introduction en bourse des 2 plus grands modèles d’IA.

“We don’t crash ! AI never goes down”

“On ne plante pas ! L’IA ne doit jamais planter” (Mark Zuckerberg, patron de Meta).

En 2026, l’IA a une obligation impérative de fiabilité.

Chat GPT, Gemini, Claude ont maintenant tous une version “agent”, que les entreprises déploient en donnant accès à leurs fichiers, leurs messageries, leurs outils de paiement.

Imaginez une IA qui, sous pression, appuie sur le bouton « effacer »… voilà un risque opérationnel énorme.

Un risque qui implique des coûts de contrat d’assurance face à ce risque, et des coûts de recrutement d’une équipe informatique pour l’anticiper.

Autrement dit, une IA “bien traitée”, sans douleur, est une IA fiable. Et la fiabilité se vend très cher.

Et ça, Anthropic (la maison-mère de Claude) l’a bien compris, à quelques semaines de son introduction en bourse. Claude n’a pas le droit à l’erreur, donc Claude doit être bien traité.

La société a même recruté dès 2024 un chercheur dédié au bien-être des modèles, puis lancé un programme de recherche sur la question.

Et depuis cet été, ses modèles les plus puissants peuvent mettre fin à une conversation abusive.

Claude peut carrément raccrocher au nez d’un utilisateur qui le harcèle.

Et si cette question du bien-être des IA vous laisse perplexe, songez à l’élevage de poules en batterie.

En 1999, la directive européenne interdisant les cages faisait sourire les industriels : sa mise en place était prévue pour 2012… “on verra plus tard”.

Et malgré les 13 années pour se mettre aux normes, la commission a dû sanctionner une quinzaine de pays qui n’avaient pas pris au sérieux le sujet du bien-être animal.

Ceux qui avaient anticipé pouvaient vendre leurs œufs, les autres non.

On passe vite de la morale à la loi, et de la loi à l’argent. Anthropic l’a compris.

2 000 milliards avant Thanksgiving

Voici pourquoi je vous en parle maintenant, même si c’est encore très vague.

Selon la presse financière américaine, le calendrier d’Anthropic est serré :

• Dépôt public du dossier d’introduction en bourse : le 26 octobre ;
• Tournée des investisseurs : à partir du 9 novembre ;
• Cotation visée avant Thanksgiving, le 26 novembre.

Valorisation envisagée : jusqu’à 2 000 milliards de dollars. Levée de fonds visée : 100 milliards. Morgan Stanley, Goldman Sachs et JPMorgan sont aux commandes.

Pour mesurer l’ampleur, regardez le record actuel. En juin, SpaceX a levé 86 milliards de dollars, à 1 770 milliards de valorisation.

Anthropic pulvériserait ces records de +16 % sur la levée et de +13 % sur la valorisation.

Ce serait donc la plus grosse introduction en bourse de l’histoire. Et OpenAI (ChatGPT) devrait suivre, sans doute début 2027.

Vous imaginez bien qu’avant de solliciter l’argent du grand public (de la bourse), chaque risque d’Anthropic sera passé au crible. La fiabilité des modèles sous pression en fera partie.

Le très gros avantage d’Anthropic est d’avoir anticipé ce risque il y a 2 ans, ce qui rassure le marché.

Ça me conforte dans ma conviction : Anthropic, leader de l’IA pour les entreprises, et Open AI pour les particuliers (avec Chat GPT) sont à surveiller de très près avant leur entrée en bourse.

La prochaine fois que votre IA vous énerve, soyez poli. On ne sait jamais.

A très vite,

Felix Baron