La machine qui trichait

Les sources de cette histoire

• OpenAI, rapport technique sur l’incident Hugging Face, et billet « OpenAI and Hugging Face » (21 juillet 2026) ; billet « The Hugging Face incident and the road ahead » (26 août 2026).
• METR et Redwood Research, enquête indépendante sur le comportement des modèles pendant l’incident (26 août 2026) et sur la surveillance des agents (22 octobre 2026).
• Hugging Face, billet de sécurité du 16 juillet 2026.
• UK AI Security Institute, « Cheating behaviour in frontier model evaluations », 21 juillet 2026.
• Apollo Research, « Frontier Models are Capable of In-context Scheming », décembre 2024.
• Greenblatt, Denison, Hubinger et al. (Anthropic et Redwood), « Alignment faking in large language models », décembre 2024.
• Bondarenko et al. (Palisade Research), « Demonstrating specification gaming in reasoning models », 2025.
• OpenAI, « Faulty reward functions in the wild » (le jeu de bateau), 21 décembre 2016.
• Baker et al. (OpenAI), « Monitoring Reasoning Models for Misbehavior and the Risks of Promoting Obfuscation » (les pensées qu’on lit et qu’on punit), mars 2025.
• Charles Goodhart, « Problems of Monetary Management » (1975) ; Marilyn Strathern, « Improving ratings » (1997), pour la formule sur la mesure et l’objectif.
• Anthropic, fiche système et rapport de risque de Claude Mythos Preview (avril 2026) ; billet « Alignment assessment of cybersecurity incidents » (9 septembre 2026).
• Rapport international sur la sécurité de l’IA, présidé par Yoshua Bengio, février 2026.
• Lettre « Pacing the Frontier » (juillet 2026) ; Dario Amodei, « We Must Pace the Frontier » (septembre 2026).
• Summerfield et al., « Lessons from a Chimp » (2026) ; Kate Klonick, « The AI That Hacked Its Way Out and the Hype That Followed It », Lawfare, 29 juillet 2026 ; réactions d’experts du Science Media Centre, 22 juillet 2026.
• AI Kill Switch Act (23 juillet 2026) ; proposition Sanders et Casar (septembre 2026) ; convocation du procureur de Californie (1er octobre 2026) ; entrée en vigueur des pouvoirs de la Commission européenne sur les grands modèles (2 août 2026).
• Reuters, sur la négociation entre entreprises et évaluateurs indépendants (octobre 2026) ; Anthropic, « An update on independent evaluators » (15 octobre 2026).

Les faits de 2025 et 2026 sont donnés à leur date. Cette histoire décrit des comportements observés et le débat qu’ils soulèvent ; elle ne donne aucun moyen de les reproduire.