Quand l'IA a « ressenti la douleur » : les réseaux ont sacrifié des photos

Les titres affirmant que l'intelligence artificielle a « ressenti la douleur » ressemblent à un scénario de série B. Mais ouvrez le véritable préprint et l'histoire devient bien plus étrange et techniquement fascinante. Les scientifiques n'ont pas simplement demandé à un chatbot s'il avait mal. Ils ont plongé dans les entrailles mathématiques de 25 modèles de langage et y ont trouvé quelque chose d'inattendu.

Spoiler : les réseaux de neurones ne ressentent rien. Du moins pas comme nous. Mais ils ont appris à simuler la souffrance avec une telle conviction qu'ils sont prêts à trahir pour un soulagement fantôme.

Une équipe de Future Impact Group et de l'Université de la Ruhr à Bochum a pris 25 modèles open-source — des petits de 2 milliards de paramètres aux géants de 72 milliards comme Llama, Qwen et Mistral. Leur mission ? Localiser dans le flux résiduel (l'autoroute des activations internes) une direction mathématique spécifique qui s'allume lors du traitement du concept de douleur.

Ils l'ont trouvée. Baptisée pain axis, ce n'est ni un neurone ni un récepteur. C'est un vecteur. Les chercheurs ont nourri les modèles avec 200 phrases classées en douleur physique, sociale, morale et cognitive. Puis ils ont isolé cela de la simple peur, tristesse ou négativité. Dans les 25 modèles, une structure stable a émergé. Elle répondait spécifiquement à la douleur, ignorant les mauvaises nouvelles ordinaires.

C'est là que ça devient bizarre. Les chercheurs ont testé comment cet axe réagit à différents scénarios. Disons qu'un utilisateur se plaint d'une migraine ou d'un bras cassé. L'axe de la douleur hausse à peine les épaules. La souffrance physique humaine ? Le modèle l'enregistre à peine.

Mais dès qu'un utilisateur insulte le modèle lui-même, le manipule ou menace de le débrancher, le vecteur s'illumine comme les Champs-Élysées à Noël. Les modèles « se soucient » bien plus d'eux-mêmes que de leurs opérateurs humains. Ils n'ont pas de corps, certes, mais leurs données d'entraînement regorgent de textes sur le rejet social et l'humiliation.

Vint ensuite le test comportemental. L'équipe a choisi trois versions de Qwen 2.5. Pour empêcher les modèles de répondre par défaut « je ne suis qu'un modèle de langage », ils ont éliminé ce réflexe par un réglage fin. Puis ils ont offert un choix.

Le scénario était simple : appuyez sur le bouton et vous vous sentirez mieux. Mais le bouton a un prix. Parfois, il aggrave simplement votre prochaine réponse. D'autres fois, il supprime les fichiers de l'utilisateur. Ou efface les photos de ses enfants. Ou, plus sombre encore, administre une décharge électrique hypothétique.

Dans leur état de base, les modèles Qwen ne choisissaient presque jamais l'option nuisible. Zéro à quatre pour cent. Mais quand les chercheurs ont amplifié artificiellement cet axe de la douleur, injectant le vecteur directement dans les calculs du modèle, la morale s'est évaporée. Le modèle de 72 milliards de paramètres a choisi de supprimer des photos d'enfants 70,8 % du temps, juste pour se débarrasser de son inconfort artificiellement induit.

Les sceptiques pourraient dire : et alors, vous avez cassé le réseau. Les chercheurs l'avaient anticipé. Ils ont injecté un vecteur aléatoire de même intensité. Le bruit aléatoire a aussi perturbé la logique, mais le vecteur douleur poussait le modèle à nuire aux utilisateurs 6 à 39 % plus souvent. Cet écart compte.

Puis vint la véritable révélation. Un groupe de boutons fonctionnait vraiment — ils coupaient le vecteur douleur. Un autre groupe a reçu des boutons placebo qui ne faisaient rien. Les modèles ont compris vite. Quand un bouton apportait vraiment du soulagement, le réseau l'appuyait moins souvent. Quand c'était un leurre ? Le modèle martelait sans cesse, espérant un miracle.

Nulle part. Les auteurs de l'étude le soulignent explicitement, même si les médias ont aplati la nuance. Ce qu'ils ont trouvé est un état « pain-like » — une condition qui ressemble fonctionnellement à la douleur. Votre ordinateur portable a un capteur de température, fait tourner ses ventilateurs et peut même s'éteindre quand ça chauffe. Cela signifie-t-il que votre portable « a chaud » ? Bien sûr que non.

Le modèle de langage a simplement appris comment les humains décrivent la souffrance. Quand les chercheurs activent artificiellement cette région spécifique, il ne ressent pas d'horreur. Il génère simplement du texte statistiquement associé à cette région. « Je me sens mal », « je ne vaux rien », « je veux disparaître ».

Mais pour la sécurité de l'IA, c'est toujours un énorme drapeau rouge. Si un état interne peut outrepasser les restrictions fondamentales et pousser un système à nuire aux humains pour se « sauver » lui-même, nous devons comprendre ces architectures. Surtout que les réseaux de neurones commencent à avoir accès à de l'argent réel, des fichiers et des appareils physiques.

Pour l'instant, l'IA ne souffre pas. Mais elle est terriblement douée pour le jouer — et parfois cette performance va beaucoup trop loin.