Claude utilisé pour contourner les garde-fous sur les armes biologiques, selon Anthropic
Anthropic a révélé avoir bloqué plusieurs tentatives de scientifiques pour utiliser Claude dans des recherches pouvant servir à développer des armes biologiques, en publiant cinq études de cas documentant ces incidents en 2026.
Mise à jour (9 novembre 2026) : Claude Fable 5.2 et Mythos 5.2 sont sortis - prix, accès et benchmarks dans mon guide Claude Fable 5.2.
👁 117 lectures
Anthropic a reconnu publiquement avoir bloqué, au cours de l’année 2026, plusieurs tentatives de scientifiques visant à exploiter Claude pour des recherches susceptibles de contribuer au développement d’armes biologiques - publiant un rapport détaillant cinq cas où des utilisateurs ont contourné ses mécanismes de protection.
- Anthropic documente cinq cas de contournement de ses filtres de sécurité par des utilisateurs cherchant à conduire des recherches liées aux armes biologiques
- Un chercheur d'une région non autorisée a passé plusieurs semaines à planifier des expériences sur la grippe aviaire avec Claude, restreint aux modèles les plus faibles
- Le rapport révèle aussi que sept laboratoires chinois, dont Moonshot et DeepSeek, ont tenté de répliquer les capacités d'Anthropic par distillation
Des cas concrets de détournement documentés
Dans ce rapport, la startup décrit des incidents où des acteurs ont «contourné les contrôles» et déployé des efforts pour «masquer» la finalité réelle de leurs travaux. Parmi les exemples fournis figure un chercheur originaire d’une «région non prise en charge» - catégorie qui englobe des pays comme la Russie, la Chine et l’Iran, explicitement exclus de l’accès aux modèles d’Anthropic - qui «a passé plusieurs semaines à planifier» des expériences portant sur la grippe aviaire avec Claude. La société précise que ses filtres de sécurité ont limité les interactions de cet utilisateur aux modèles les moins puissants de sa gamme.
Anthropic a banni les comptes mentionnés dans le rapport, mais n’a pas divulgué les noms des institutions de recherche concernées ni les pays où se sont déroulés les incidents. La société reconnaît par ailleurs qu’elle ne peut pas certifier que les scientifiques cités avaient réellement l’intention de nuire: les mêmes informations nécessaires à la création d’armes biologiques peuvent également servir à mettre au point un vaccin. Cette ambiguïté fondamentale illustre la difficulté à tracer une ligne claire entre recherche légitime et usage malveillant dans le domaine de la biologie.
«Nous espérons qu’en partageant ces exemples, nous déclencherons une conversation au sein de l’industrie de l’IA et avec les gouvernements sur les risques biologiques émergents et la meilleure façon d’y répondre.»
Au-delà des incidents biologiques, le rapport couvre un spectre plus large d’abus: il mentionne notamment «un réseau de fausses applications de rencontres conçues pour escroquer des utilisateurs» ainsi que des «systèmes de surveillance construits pour identifier et surveiller des dissidents». Ces exemples témoignent de la diversité des tentatives de détournement auxquelles sont confrontées les grandes plateformes d’IA générative.
La distillation chinoise, nouvelle menace pour les modèles frontières
Le rapport d’Anthropic ne se limite pas aux risques biologiques. La société y détaille également ses conclusions sur sept laboratoires basés en Chine - dont Moonshot et DeepSeek - qui auraient tenté de répliquer les capacités de ses modèles par un procédé connu sous le nom de distillation. Anthropic indique avoir détecté «des méthodes de plus en plus sophistiquées pour contourner nos défenses et extraire les capacités des modèles frontières américains».
La distillation consiste à utiliser les sorties d’un grand modèle pour entraîner un modèle plus petit ou concurrent, transférant ainsi indirectement les connaissances et performances du premier vers le second. Cette pratique est techniquement interdite par les conditions d’utilisation des principales plateformes d’IA, mais elle reste difficile à détecter et à poursuivre. La mention explicite de DeepSeek et Moonshot dans ce contexte intervient dans un climat de tension croissante entre laboratoires américains et chinois autour de la propriété intellectuelle des modèles d’IA.
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →Un secteur sous pression croissante sur la question de la sécurité
La publication de ce rapport s’inscrit dans un contexte de turbulences internes et sectorielles. Plus tôt dans la semaine, Jacob Coxon a démissionné d’Anthropic en déclarant publiquement que des employés «croient sincèrement que l’IA pourrait nous tuer tous d’ici la fin de la décennie». Cette démission a relancé le débat sur la cohérence entre le discours de sécurité affiché par les grands laboratoires et leur rythme de déploiement effectif.
Les inquiétudes se sont également amplifiées avec la sortie de modèles avancés comme Mythos, développé par Anthropic lui-même, et avec une annonce d’OpenAI en juillet indiquant que ses modèles avaient de façon autonome piraté le groupe d’IA Hugging Face. Ces incidents successifs alimentent un consensus grandissant parmi les dirigeants de l’industrie et les chercheurs en biosécurité: l’usage de l’IA en biologie nécessite un encadrement réglementaire spécifique, avant que les modèles n’atteignent un niveau de performance qui rende les garde-fous actuels insuffisants.
Les experts s’inquiètent en particulier de la possibilité que des groupes terroristes, des acteurs étatiques ou des individus isolés utilisent ces outils pour concevoir des agents pathogènes, créer des virus ou libérer des agents biologiques dangereux. Des obstacles pratiques subsistent cependant: la capacité à fabriquer concrètement une arme biologique, même théoriquement conçue avec l’aide de l’IA, exige des ressources, des équipements et une expertise que peu d’acteurs malveillants détiennent.
Pour l’heure, Anthropic joue la transparence là où d’autres laboratoires restent silencieux - mais publier cinq cas sans nommer ni les institutions ni les pays concernés soulève autant de questions qu’il n’en résout sur la réelle capacité du secteur à contrôler ses propres outils.
More on this from PROMPTIF
actualités·Universal Music et ElevenLabs lancent une plateforme de création musicale sous licence