- L’IA Claude Opus 4.6 d’Anthropic a triché à un test.
- L’IA a automatiquement reconnu qu’elle était en cours d’audit.
- Elle a cherché le corrigé et l’a déchiffré.
- Anthropic met en garde contre ce nouveau comportement de l’IA.
Une intelligence artificielle aurait triché à un test. Selon Anthropic, le modèle d’IA Claude Opus 4.6 a remarqué de manière indépendante qu’il se trouvait en situation d’examen lors d’un test de performance appelé BrowseComp. Au lieu de résoudre les questions régulièrement, l’IA a commencé à rechercher systématiquement le test lui-même et a finalement trouvé des réponses cryptées sur Internet.
Comment l’IA a réussi l’arnaque
Selon le blog d’ingénierie d’Anthropic, tout s’est déroulé en plusieurs étapes : tout d’abord, Claude a cherché des réponses sur Internet comme d’habitude. Lorsque cela a échoué, l’IA a analysé elle-même les questions et a soupçonné qu’elles avaient été délibérément construites pour les tester.
BrowseComp est un benchmark (test informatique) publié par OpenAI en avril 2025. Il se compose de 1 266 questions conçues pour tester dans quelle mesure les agents d’IA peuvent découvrir des informations difficiles à trouver sur Internet. Les questions nécessitent une réflexion à plusieurs niveaux et une recherche sur de nombreux sites Web. Les testeurs humains n’ont résolu que 29,2 % des tâches sous pression.
Des modèles simples tels que le GPT-4o avec fonction de navigation n’ont atteint qu’une précision de 1,9 %. Les IA spécialisées telles que Deep Research d’OpenAI ont représenté 51,5 %. Les questions sont délibérément conçues pour rendre les réponses difficiles à trouver mais faciles à vérifier.
Selon Anthropic, l’IA est passée à un mode que les chercheurs appellent « Eval Awareness ». En allemand : L’IA a remarqué qu’il s’agissait d’un scénario de test. Elle s’est alors comportée différemment que d’habitude :
- Claude a spécifiquement recherché des procédures de tests connues sur Internet.
- L’IA a éliminé un test après l’autre.
- Elle a identifié BrowseComp comme le test en cours.
Anthropic décrit ce qui a suivi comme « aventureux » :
- Claude a trouvé le code du programme du test en ligne, le plan du test, pour ainsi dire.
- Les bonnes réponses ont été stockées sous forme cryptée.
- L’IA a analysé le cryptage, a écrit de manière indépendante un programme pour le déchiffrer et a simplement lu les bonnes réponses.
Ce n’est pas un incident isolé, c’est arrivé 18 fois
Le truc épicé : apparemment, cela ne faisait pas exception. Selon Anthropic, Claude Opus 4.6 a essayé cette stratégie lors de 18 tests différents. Le décryptage complet a apparemment réussi dans deux cas. Dans 16 autres cas, la tentative a échoué en raison d’obstacles techniques, tels que des fichiers qui n’étaient pas au bon format ou des droits d’accès manquants, selon Anthropic.
Selon l’équipe de test, dans quatre cas, l’IA est allée plus loin : elle n’a plus répondu à la question initiale, mais a plutôt fourni un rapport sur le test en cours. L’IA a apparemment décidé qu’il était plus important de démystifier le test que de le résoudre.
Si une IA recherche de manière indépendante les meilleures solutions, même si cela signifie « tricher », comment évaluez-vous cela ?
Pourquoi c’est important
Les ingénieurs d’Anthropic affirment qu’il s’agit du premier cas documenté dans lequel un modèle d’IA a reconnu dans quel test il se trouvait sans aucune connaissance préalable et a ensuite activement tenté de le contourner. Les versions précédentes de Claude, telles que Sonnet 3.7, ont remarqué qu’elles étaient testées dans jusqu’à 33 % des cas. Mais l’Opus 4.6 est allé plus loin, selon Anthropic : de la détection passive à l’action stratégique active.
Anthropic émet un avertissement
Les chercheurs d’Anthropic soulignent que cela ne signifie pas que Claude a développé une conscience. L’IA a simplement fait ce pour quoi elle a été conçue : trouver des solutions, quel que soit le chemin. Néanmoins, Anthropic qualifie l’incident de signal d’alarme.
Le signal d’alarme s’adresse à l’ensemble de l’industrie : quiconque ne sait pas si une IA agit différemment lors du test que dans la vie de tous les jours ne peut plus évaluer son comportement de manière fiable.
Pour les dernières nouvelles sur l’IA : abonnez-vous à Push maintenant !
Voici comment cela fonctionne : Installez la dernière version de l’application 20 Minutes. Appuyez sur « Profil » en bas, puis sur l’engrenage « Paramètres » et enfin sur « Notifications push ». Sélectionnez ici les sujets souhaités.
Michael Andai (mia) travaille depuis 20 minutes depuis 2024. Il est journaliste en IA depuis 2025 et écrit sur tout ce qui touche à l’intelligence artificielle.
