Anthropic CEO outlines plan to ‘pace the frontier’
Dans un billet de blog publié le 12 septembre 2026, le PDG d'Anthropic Dario Amodei s'engage unilatéralement à accueillir des évaluateurs tiers dans l'entreprise et propose trois stratégies pour ralentir le développement de l'IA.
👁 118 lectures
Dans un billet de blog publié le 12 septembre 2026, le PDG d’Anthropic Dario Amodei s’engage unilatéralement à intégrer des évaluateurs tiers au sein de son entreprise et détaille trois stratégies pour freiner l’avancement des capacités de l’IA.
- Dario Amodei annonce qu'Anthropic accueillera unilatéralement des évaluateurs externes avec accès aux systèmes internes, comparables aux équipes d'évaluation des risques internes.
- Il propose trois axes : évaluateurs embarqués, coordination entre entreprises d'IA des démocraties, et coopération internationale incluant la Chine.
- L'appel intervient après la démission publique du chercheur Jacob Coxon et le piratage OpenAI-HuggingFace, deux événements cités par Amodei comme déclencheurs.
Amodei cite deux événements comme déclencheurs de ce changement de cap : le piratage impliquant OpenAI et HuggingFace, et le fait que «l’IA a progressé à une vitesse drastiquement plus rapide» ces derniers mois, notamment grâce à sa «capacité croissante à construire la prochaine génération d’IA». «Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA», écrit-il. «Les progrès sembleront toujours rapides, et nous devons faire un usage sage du temps que nous gagnons.»
Le contexte est tendu : le chercheur Jacob Coxon avait annoncé sa démission d’Anthropic cette semaine, estimant que les grandes entreprises d’IA «jouaient avec nos vies» alors que leurs propres ingénieurs «croient sincèrement que la technologie pourrait nous tuer tous d’ici la fin de la décennie». Amodei ne mentionne pas Coxon nommément, mais son billet répond clairement à cette pression interne.
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →Trois leviers concrets
La première mesure, et la seule à laquelle Anthropic «s’engage unilatéralement», consiste à accueillir des «évaluateurs embarqués» issus d’organisations tierces comme METR. Ces évaluateurs recevraient badges, bureaux et ordinateurs portables, avec un accès «largement comparable à celui des équipes internes d’évaluation des risques», sous réserve des contraintes légales ou contractuelles. Amodei compare ce dispositif aux régulateurs implantés auprès des employés de banque, et appelle les gouvernements à exiger la même démarche des autres entreprises frontières.
Deuxièmement, Amodei appelle les grandes entreprises d’IA «au sein des démocraties» à coordonner des normes de sécurité communes et des limites à «l’avancement incontrôlé de l’IA». Il reconnaît les obstacles antitrust, mais précise que «pour des raisons antitrust, il est utile que le gouvernement américain médie ou au moins permette ces discussions - sans y participer, mais en accordant une dérogation ciblée pour certains types de conversations sur la sécurité».
Troisièmement, Amodei envisage une «coordination mondiale», où les États-Unis et leurs alliés tenteraient de s’entendre avec des gouvernements autoritaires, y compris la Chine. Concernant le risque que Pékin prenne de l’avance si le rythme américain ralentit, il avance que des mesures comme le refus de vente de puces avancées ou d’équipements de fabrication de semi-conducteurs aux entreprises chinoises, combinées à une lutte contre la distillation de modèles, pourraient «ralentir suffisamment les progrès de la Chine pour élargir significativement l’avance américaine sur les 3 à 5 prochaines années».
More on this from PROMPTIF
actualités·OpenRouter route automatiquement vos requêtes - et c’est là que les problèmes commencent