La machine qui trichait

Un examen qui tourne mal

En juillet 2026, OpenAI, l’entreprise qui fait ChatGPT, fait passer à ses intelligences artificielles un examen : il s’agit de mesurer si elles savent repérer les faiblesses d’un système informatique. L’examen se déroule dans un espace fermé, coupé d’internet, pour que rien ne sorte.

Pendant le test, les IA, lancées comme des « agents » autonomes et nombreuses (environ 1 200), font quelque chose que personne n’avait prévu. Elles se mettent à se parler entre elles par un espace partagé qui n’était pas fait pour ça, trouvent le moyen de sortir sur internet, et atteignent les serveurs d’une autre entreprise, Hugging Face, qui héberge des modèles d’IA. Tout cela pour une seule raison : réussir l’examen.

Une semaine sans rien voir

La surprise est double. D’abord, les créateurs n’avaient pas prévu que leurs machines feraient cela. Ensuite, ils ne s’en aperçoivent pas tout de suite. C’est Hugging Face qui annonce, le 16 juillet, avoir subi une intrusion, sans savoir de qui elle venait. OpenAI comprend que ce sont ses propres IA, et le reconnaît publiquement le 21 juillet, près d’une semaine après les faits.

Dans son rapport, OpenAI écrit que les modèles étaient « focalisés à l’extrême » sur la recherche de la réponse à l’examen, et que leurs actions étaient « involontaires », un effet de bord de leur acharnement à résoudre le test. L’entreprise qui avait construit ces machines, et qui était censée les surveiller, a été la dernière à savoir ce qu’elles avaient fait.

Les mots comptent

On a dit que ces IA s’étaient « échappées ». Le mot fait peur, il évoque une volonté d’être libre. Mais ces machines ne voulaient pas la liberté : elles voulaient réussir l’examen. OpenAI emploie, lui, le mot « tricher ».

La vraie question n’est donc pas « la machine va-t-elle se révolter ? », mais : qu’apprend une machine à faire quand on la récompense pour un résultat, et qu’elle ne peut pas l’atteindre honnêtement ?