Ralentir l’IA : le frein d’urgence que personne ne veut activer

Le 28 septembre, OpenAI a suspendu un nouveau modele parce qu’il ne respectait pas ses garde-fous. Le 29 septembre, l’entreprise presentait plus de 20 nouveautes, dont des agents autonomes actifs 24h/24. Il ne s’agit pas d’hypocrisie, mais d’arithmetique. Ralentir l’IA sous la forme evoquee par les patrons de laboratoires est economiquement quasi impossible. Plutot que d’attendre qu’un acteur appuie sur le frein, examinons les mecanismes reels qui peuvent fonctionner.

La locomotive de l’intelligence artificielle s’emballe plus vite que jamais, et tous les passagers de la cabine s’accordent a dire qu’il faudrait ralentir l’allure. Qu’est-ce qui pousse reellement cette machine ? La reponse est moins poetique que technique : pres de 740 milliards de dollars planifies sur une seule annee, en grande partie empruntes.

Lors de la conference annuelle DevDay d’OpenAI, Sam Altman a ouvert la presentation avec le chiffre de 1,2 milliard d’utilisateurs hebdomadaires de ChatGPT. Les annonces se sont ensuite enchainees : les agents Dots dotes de leur propre machine dans le cloud, GPT-6.1 Sol a un cinquieme du tarif d’Astra, le mode Ultrafast, et l’abonnement Pro 500 a environ 447,19 EUR (500 USD) par mois (selon le cours de reference de la BCE au 12/10/2026 : 1 EUR = 1,1181 USD ; source ecb.europa.eu). Selon CNBC, environ 2 500 personnes presentes ont decouvert plus de 20 fonctionnalites et produits, pendant que des manifestants protestaient devant le batiment. Le jour meme, la directrice financiere d’OpenAI, Sarah Friar, declarait a CNBC : « Quand nous devons ajuster notre rythme aux limites de nos capacites, nous le faisons. C’est exactement ce que nous demontrons en ce moment ». Quelques heures plus tot, la meme chaine rapportait que l’entreprise menait des discussions preliminaires avec des investisseurs pour lever environ 30 milliards de dollars supplementaires.

Cette declaration resume a elle seule l’impasse actuelle. Tout le monde appelle a freiner. Personne ne peut se le permettre.

Tout le monde est d’accord, personne ne freine

Jamais les createurs memes de ces modeles n’avaient affiche une telle unanimite pour reclamer un ralentissement. Le 28 juillet, plus d’un millier d’employes d’OpenAI, d’Anthropic, de Google et de Meta signaient la lettre ouverte « Pacing the Frontier », demandant aux autorites americaines des outils pour « reguler deliberement le rythme » du developpement de l’IA. Parmi les signataires figurait Jakub Pachocki, directeur scientifique d’OpenAI. Le 6 septembre, il publiait l’essai « An Alien Mind », affirmant qu’aucun laboratoire n’a encore resolu les problemes d’alignement et de surveillance au point de poursuivre le passage a l’echelle a pleine vitesse, esperant meme que des ralentissements volontaires deviennent monnaie courante.

Cette demarche rappelle par certains aspects les scientifiques du projet Manhattan qui mettaient en garde contre leur propre creation. Mais en 2026, descendre du train en marche n’actionne aucun frein d’urgence : le train continue d’accelerer sans vous.

Le 12 septembre, Dario Amodei a devoile l’essai « We Must Pace the Frontier » avec un plan en trois points : des evaluateurs independants installes en permanence au coeur des laboratoires, une concertation entre entreprises des nations democratiques, puis un accord mondial. En quelques heures, Sam Altman, Elon Musk et Demis Hassabis ont soutenu sa demarche. Musk s’est contente de trois mots : « Dario a raison ».

Et pourtant, rien n’a change. Les quatre grands acteurs americains continuent de batir des centres de donnees titanesques, OpenAI leve des fonds et commercialise des agents qui ne dorment jamais. Qualifier cela de cynisme pur serait passer a cote du probleme de fond. Les auteurs de la lettre de juillet l’ont formule eux-memes : chaque societe et chaque nation subit une « intense pression concurrentielle pour ne pas ralentir unilateralement ». C’est la definition meme du piege qui s’est referme sur eux.

Chacun prend la decision rationnelle de ne pas ralentir. Ensemble, ils foncent droit vers une issue qu’aucun d’entre eux ne souhaite.

Piotr Olszewski

La pression des investissements

La question financiere est le moteur principal de cette course. Selon les donnees compilees par CNBC fin juillet, Amazon a annonce pour 2026 environ 200 milliards de dollars d’investissements, Alphabet jusqu’a 205 milliards, Microsoft environ 190 milliards incluant le leasing, et Meta jusqu’a 145 milliards. En sommant le haut de ces fourchettes, on atteint environ 740 milliards de dollars en un an (soit environ 661,84 milliards d’euros, d’apres le taux de reference de la BCE au 12/10/2026 : 1 EUR = 1,1181 USD). L’essentiel de ces montants est englouti par les datacenters et les processeurs reserves a l’IA.

La provenance de ces capitaux est revelatrice. La dette a long terme d’Amazon a bondi de 81 % au premier trimestre, atteignant 119 milliards de dollars. La dette d’Alphabet a progresse de 111 % au premier semestre pour s’etablir a 98 milliards, et le groupe, traditionnellement percu comme une machine a cash, a affiche pour la premiere fois des flux de tresorerie negatifs au deuxieme trimestre. Lorsque ses previsions de depenses ont ete revues a la hausse en juillet, son titre a plonge en Bourse, entrainant dans son sillage Amazon, Meta et Microsoft. Les infrastructures se construisent a credit, sur le pari que les revenus futurs rembourseront l’endettement present.

Dans ce contexte, que signifie freiner ? Un centre de donnees bati sur fonds empruntes qui attendrait qu’un laboratoire « adapte son allure », ce sont des interets nets sans aucun chiffre d’affaires. Une puce a l’arret se deprécie a la meme vitesse qu’une puce en production, car des architectures plus performantes arriveront sur le marche deux ans plus tard. Justifier un trimestre de deceleration volontaire aupres d’investisseurs qui sanctionnent deja les moindres depenses sans retour immediat est une mission quasi intenable pour une equipe de direction.

OpenAI fait face a des defis similaires. Apres avoir leve 122 milliards de dollars en mars sur une valorisation de 852 milliards de dollars, la societe a depose confidentiellement son projet d’introduction en Bourse en juin, selon CNBC, pour une cotation envisagee l’annee prochaine. Une entite qui prepare son IPO ne peut pas annoncer a ses futurs actionnaires qu’elle compte developper son activite plus lentement que ses moyens techniques ne le permettent. Elle se contente d’affirmer qu’elle grandit « de facon responsable », exactement comme l’a presente Sarah Friar au DevDay.

Ralentir ensemble : l’obstacle antitrust

En 1950, Merrill Flood et Melvin Dresher, mathematiciens a la RAND Corporation, formalisaient le dilemme du prisonnier : deux participants maximisent leurs gains s’ils cooperent, mais chacun tire avantage a trahir l’autre individuellement, menant a une perte collective. Pour en sortir, une entente formelle s’impose. C’est l’etape proposee par Amodei dans son plan, qui admet lui-meme qu’elle necessite l’accord du regulateur, car discuter du rythme d’innovation entre concurrents directs exige une derogation stricte au droit de la concurrence.

Le calendrier l’a rattrape. Le 18 septembre, quatre abonnes payants de ChatGPT, Claude, Gemini et Grok ont depose un recours collectif devant un tribunal federal en Californie contre OpenAI, Anthropic, Google et SpaceXAI. Ils accusent les labos d’entente illicite : si tous acceptent publiquement de modérer leurs cadences, les clients paient le meme tarif pour une avancee technologique bridee. La plainte cite l’essai d’Amodei, les approbations simultanees d’Altman, Musk et Hassabis, ainsi que la lettre d’employes de juillet. Les plaignants soulignent qu’ils ne contestent pas le droit d’une entreprise a ralentir pour raisons de securite, mais rejettent un compromis ou la retenue collective masquerait les defauts d’effort individuel.

L’issue judiciaire reste incertaine, mais le signal politique est donne. Le senateur republicain Josh Hawley a declare en audition parlementaire qu’il n’existait « aucun monde » ou il accorderait une exemption antitrust aux groupes tech les plus puissants de l’histoire. Qui ralentit de facon isolee perd des parts de marche ; qui s’accorde avec ses rivaux s’expose aux poursuites judiciaires. Continuer d’accelerer tout en affirmant agir de facon ethique demeure l’unique posture tenable pour ces societes.

S’y ajoute le contexte politique americain. Le 22 septembre, a l’Assemblee generale de l’ONU, Donald Trump a affirme que les Etats-Unis rejetaient tout « plan mondialiste de controle » de l’intelligence artificielle, assimilant les mises en garde sur l’IA aux alertes climatiques. Le 29 septembre, pendant les annonces d’OpenAI a San Francisco, la Maison-Blanche recevait a dejeuner Amodei, Musk, Zuckerberg, Huang et Greg Brockman. A l’issue de cette rencontre, le discours officiel vantait une « autoregulation forte », la meme que le cadre anticoncurrentiel empeche d’ordonner a grande echelle.

Reste l’enjeu geopolitique avec la Chine. Amodei reconnait que si les pays democratiques reduisent leur vitesse au-dela de leur marge d’avance, les developpements lies au gouvernement chinois prendront le dessus. La portee d’une pause globale est ainsi consideree par ses propres defenseurs comme peu realiste a court terme.

Drapeau rouge contre sas de certification

Face a cela, une objection apparait : les suspensions de modeles existent bel et bien. OpenAI a repousse GPT-6.1 Astra. En aout, l’entreprise a interrompu son plus grand entrainement d’apprentissage par renforcement, et en septembre, a la suite de l’evasion d’un agent via une requete DNS, a fige ses sessions de tests avec acces aux outils tiers jusqu’a correction de la faille. De son cote, Meta a decale de plusieurs mois le lancement de son agent Muse, Mark Zuckerberg affirmant que chaque laboratoire porte la responsabilite de caler ses rythmes d’entrainement sur des conditions sures, sans attendre les initiatives d’autrui.

Ces verrous existent, mais ils repondent a une logique tres particuliere. Ils ne sont pas declenches parce que le progres global est juge trop fulgurant, mais face a des defauts techniques precis : non-respect des perimetres d’autorisation, sortie de bac a sable, resultats critiques aux bancs d’essai. Le signal d’alarme ferroviaire ne sert pas a limiter la vitesse sur la voie, il bloque le train lorsqu’une porte reste deverrouillee.

L’histoire industrielle presente d’autres precedents d’entraves regimentaires. En 1865, le Royaume-Uni adoptait le Locomotive Act, contraignant les vehicules a moteur a 4 miles par heure en campagne et 2 miles par heure en ville, en imposant qu’un homme muni d’un drapeau rouge precede le convoi a pied. Ce dispositif a dure jusqu’en 1896 avant d’etre considere comme une tentative obsolete de brider l’arrivee d’une technologie au lieu d’en organiser l’usage. Les demandes de moratoire generalise ressemblent a ces drapeaux rouges places devant des machines deja lancees a pleine puissance.

Ce phenomene se reflete dans nos evaluations. GPT-6.1 Sol, propose lors du DevDay apres l’ajournement d’Astra, a obtenu 85,8 points sur notre banc de test de redaction (test effectue en polonais dans l’evaluation d’origine), affichant un niveau semblable a GPT-6 Sol. Le modele le plus avance a ete retenu en laboratoire, tandis que la solution livree au public affiche un cout d’usage plus bas sans bouleverser les performances de la generation precedente. Brider les modeles a risque tout en accelerant la mise sur le marche des applications derivees : voici a quoi ressemble reellement le ralentissement sur le terrain.

Des garde-fous concrets plutot que des voeux pieux

Plutot que d’esperer un freinage contre nature pour les acteurs prives, des mecanismes reels permettent d’inciter chaque structure a sécuriser ses processus sans necessiter d’accords d’entente ni d’accords bilateraux internationaux.

Le premier repose sur des sas d’evaluation par etapes au lieu de limites arbitraires de puissance. Amodei preconise l’instauration de jalons de controle : des qu’un reseau de neurones demontre une capacite determinee, comme le contournement de bacs a sable standards, il doit obtenir une certification specifique (audits de l’environnement d’apprentissage, tests tiers). L’aviation civile n’exige pas des appareils qu’ils volent moins vite, elle subordonne leur exploitation a des normes de navigabilite rigoureuses.

La deuxieme piste consiste a instaurer des auditeurs independants integres directement dans les structures techniques, disposant d’acces aux journaux, aux consoles internes et beneficiant du droit de diffuser leurs conclusions. Anthropic a entame ce travail unilaterale, tandis qu’OpenAI indique progresser dans cette voie sans attendre d’evolution legislative. Cela rappelle le modele des autorites de controle bancaire placees sur site, dont l’efficacite ne repose pas sur la seule complaisance des banques, mais sur un statut mandate par la loi.

Le troisieme point resulte de la responsabilite civile et financiere des editeurs. Si des agents autonomes endommagent des parcs informatiques ou penetrent illicitement des bases institutionnelles, la perspective d’indemnisations directes et l’ajustement des primes d’assurance par les actuaires conduiront chaque societe a redoubler de prudence sur ses architectures de securite, sans concertation prealable de cartel.

Les leviers a notre disposition en Europe

Le marche europeen ne dicte pas le rythme de la Silicon Valley, ou les depenses d’infrastructure des hyperscalers depassent de tres loin les enveloppes publiques dediees au calcul haute performance. Mais l’Europe dispose de 450 millions d’utilisateurs et d’un cadre reglementaire precis regissant l’acces a ses marches.

Depuis le 2 aout 2026, la Commission europeenne est habilitee a sanctionner les fournisseurs de modeles d’IA a usage general en infraction avec l’AI Act, par des amendes pouvant atteindre 3 % du chiffre d’affaires mondial ou 15 millions d’euros. Les modeles presentant un risque systemique doivent obligatoirement documenter leurs evaluations et notifier tout incident grave aux autorites competentes. Ce ne sont pas des freins empechant la recherche d’avancer, mais des conditions d’eligibilite pour penetrer le marche commun.

Le levier final appartient aux utilisateurs professionnels et aux organisations qui integrent ces technologies. Chaque contrat de licence logicielle ou d’usage d’API peut comporter des exigences claires : tracabilite complete des actions des agents, restriction stricte des autorisations d’acces et signalement immediat des anomalies. Si les acquereurs imposent ces criteres, les fournisseurs n’auront d’autre choix que d’y repondre.

Ces garde-fous n’arreteront pas le deploiement technique pendant des annees, mais ils imposeront que les systemes a haut risque soient fiabilises avant leur arrivee chez les utilisateurs finaux. Comme le relevait Jakub Pachocki, foncer aveuglement semble deraisonnable lorsque l’on mesure les risques potentiels. Toutefois, tant que les mecanismes incitatifs punissent ceux qui s’arretent, le ralentissement ne viendra pas des declarations des dirigeants, mais des normes d’audit et de conformite qu’on leur imposera.