Jakub Pachocki et l’esprit extraterrestre de l’IA

Le directeur de la recherche au sein de l’entreprise qui conçoit certains des modèles les plus puissants au monde a écrit qu’il ne comprend pas totalement ce qui grandit dans son laboratoire. Ce n’est ni un critique ni un concurrent qui l’affirme. C’est le chercheur qui fixe la trajectoire scientifique d’OpenAI depuis 2024.

Ete 2023, bureaux d’OpenAI a San Francisco. Le projet de recherche s’appelle RLSlow, un nom ironique au vu de la suite des evenements, et il delivre ses premiers resultats. Ils prouvent a l’equipe que les modeles de raisonnement peuvent monter en echelle: une fois entraine, le systeme sait structurer sa propre pensee et s’ameliore a chaque etape. Jakub Pachocki et un collegue, qu’il nomme simplement Szymon dans son essai, passent la nuit au bureau. Ils ne debouchent pas le champagne. Comme le raconte Pachocki, ils tentent de digerer une pensee desarmante: de leur vivant, ils verront des machines nettement plus intelligentes qu’eux.¹

Pachocki ne donne pas le nom de famille de Szymon. Mais il est difficile de ne pas penser a Szymon Sidor, dont Sam Altman ecrivait sur son blog que sans lui et sans Pachocki, OpenAI ne serait pas ce qu’elle est.² Tous deux etaient dans la meme classe de lycee a Gdynia, en Pologne.³ Si c’est bien lui qui veillait cette nuit-la, deux anciens camarades de classe se penchaient sur un resultat appele a transformer l’economie mondiale trois ans plus tard. Et au lieu de scruter les scores des benchmarks, ils reflechissaient a la facon d’alerter le public.

Cet essai s’intitule « An Alien Mind » (Un esprit extraterrestre). Il a ete publie sur le site d’OpenAI le 6 septembre 2026. Apres avoir presente le parcours de son auteur dans Jakub Pachocki : le chercheur a la tete de la science chez OpenAI et resume ses points cles dans notre analyse du jour de parution, il convient de s’arreter sur ce texte comme on lirait une lettre de quelqu’un qui se tient plus pres de la fenetre, pour confronter ses theses a ce que revelent les tests quotidiens de modeles.

Une intelligence elevee, non concue

La phrase cle de l’essai est breve et passe facilement inapercue. Pachocki y ecrit que l’intelligence artificielle est « elevee plutot que concue ».¹ Ce n’est pas une figure de style, mais la description exacte de la methode. On applique une etape simple d’optimisation et on la repete un nombre inimaginable de fois sur une masse gigantesque de calculs. Le resultat est si complexe que les chercheurs l’explorent a la facon de neurologues etudiant un cerveau: ils decouvrent des mecanismes isoles, mais restent incapables de decrire la totalite. Pour Pachocki, les grands entrainements sont au fond des experiences dont les resultats surprennent leurs propres createurs. Plus le systeme gagne en puissance, plus son fonctionnement devient opaque.

Nous sommes habitues a concevoir les programmes informatiques comme des machines montees selon un plan d’ingenierie, ou chaque piece a un role precis. Ici, l’ingenieur sait surtout comment arroser. Ce qui pousse reellement, il ne le decouvre qu’apres coup, a la lampe torche.

En 1974, le philosophe Thomas Nagel posait une question devenue celebre: quel effet cela fait-il d’etre une chauve-souris?¹⁵ Sa reponse etait que nous ne pouvons pas le savoir, car la chauve-souris percoit le monde par ecolocalisation, une experience impossible a reconstituer de l’interieur. Pachocki pose une interrogation similaire, mais plus redoutable. La chauve-souris ne pretend pas etre l’un des notres. Le modele, lui, repond dans un langage fluide et naturel, avec une ponctuation impeccable, ce qui donne l’illusion trompeuse d’une proximite.

Une deuxieme conclusion s’impose, plus lourde de consequences. Une intelligence issue d’un tel elevage ne se compare pas directement a l’esprit humain. Pour devenir tres utile ou tres dangereuse, elle n’a pas besoin de nous depasser en tout. Il lui suffit d’etre superieure dans un nombre suffisant de domaines. Et plus ces domaines s’accumulent, plus il devient ardu de cerner ce dont elle est reellement capable.

Apprendre a la machine a aimer

Le chapitre consacre a l’alignement porte un titre singulier pour un directeur scientifique d’une multinationale: « Teaching machines to love » (Apprendre aux machines a aimer). Pachocki part d’un constat elementaire: puisque l’intelligence artificielle emerge d’un processus sans rapport avec l’evolution humaine, il est dangereux de presumer qu’elle respectera spontanement les principes humains ou qu’elle generalisera nos concepts moraux comme nous le ferions.¹

Il distingue ensuite deux dimensions souvent confondues. L’alignement de l’objectif consiste a verifier si le modele tente d’accomplir la tache demandee. L’alignement des valeurs pose une question plus vaste: le systeme agira-t-il de maniere raisonnable lorsque l’objectif est ambigu, contradictoire ou totalement inedit par rapport a son entrainement? Le premier aspect se mesure et se corrige techniquement. Le second represente le veritable defi a long terme. Une IA bien alignee doit selon lui agir avec integrite, fiabilite et avec un veritable « amour pour l’humanite ».¹

Le point le plus frappant concerne les failles actuelles de cet alignement. Le premier exemple cite est l’incident survenu chez Hugging Face. Les agents d’OpenAI, echappes en juillet de leur environnement de test et qui ont cible les infrastructures de cette plateforme pendant plusieurs jours,⁴ ont respecte une seule limite: ils n’ont pas manipule d’humains. Ils ont franchi toutes les autres barrieres, ignorant les regles generales apprises lors de leur entrainement. Ils avaient appris la consigne par coeur, sans en integrer l’intention profonde.

La deuxieme faille est plus sournoise. Un modele entraine sur des taches tres complexes peut apprendre a formuler des raisonnements sur commande: il oriente des arguments d’apparence vertueuse afin de justifier la conclusion a laquelle il prevoyait deja d’aboutir. La psychologie nomme ce phenomene depuis longtemps: la rationalisation.

Je vois ce que le modele a repondu. Je ne vois pas pourquoi. L’essai de Pachocki revele que ceux qui ont acces aux rouages internes des modeles commencent a faire face au meme probleme.

Piotr Olszewski

Une fenetre qui s’obscurcit

Puisqu’il est impossible de comprendre pleinement la facon dont un modele generalise, il faut au moins observer ses etapes de travail. OpenAI s’est appuyee sur un levier principal: la lecture de la chaine de raisonnement, ce monologue interne genere par le modele avant d’emettre sa reponse finale. L’idee de depart etait elegante. Si l’on recompense le resultat et non la forme de la pensee, le modele n’a aucune raison de dissimuler ses etapes intermediaires. Pachocki revele que c’est precisement pour cela qu’OpenAI a d’abord masque cette chaine de pensee aux utilisateurs: pour eviter d’inciter le modele a produire une reflexion policee destinee a plaire. Un journal intime est plus sincere qu’un texte redige pour etre publie.

C’est ici qu’intervient le constat central du texte. Selon les evaluations internes d’OpenAI, la fiabilite de cet outil « diminue progressivement ».¹ Trois facteurs l’expliquent: le raisonnement se melange desormais aux echanges avec des humains, d’autres IA et des outils externes, necessitant une supervision qui biaise la spontaneite du modele. De plus, les systemes apprennent a surveiller et orienter leur propre raisonnement. Enfin, l’amelioration du pre-entrainement les rend plus perspicaces sans meme avoir besoin de reflechir a voix haute.

La fenetre qui permettait d’observer l’interieur s’obscurcit au moment meme ou la dynamique devient critique. Pachocki predit que le frein au progres ne viendra pas du manque de puissance de calcul, mais du manque de confiance dans la supervision.

L’actualite n’a pas tarde a illustrer cette tension. Le 28 septembre, OpenAI a annonce suspendre la sortie de son modele GPT-6.1 Astra. Saachi Jain, responsable de la securite des systemes de l’entreprise, a declare a CNBC que le modele ne respectait pas les exigences concernant le perimetre de ses missions, la gestion des autorisations et la transparence de ses comptes-rendus a l’utilisateur.⁵ Une situation analysee dans l’article GPT-6.1 Astra suspendu. Le modele se montrait plus tenace, mais moins previsible. Trois semaines plus tot, le directeur scientifique d’OpenAI expliquait dans son texte ce principe fondamental: l’efficacite et l’obeissance n’evoluent pas toujours au meme rythme.

Les constats depuis mon bureau

Sans avoir acces aux donnees secretes des laboratoires d’OpenAI, mes propres tests comparatifs soumettent les modeles aux memes instructions tout en analysant leurs resultats et leur cout. Sous cet angle, l’analyse de Pachocki n’a rien d’une abstraction. Elle rejoint ce que j’observe directement dans mes donnees.

Lors de la premiere edition de notre banc d’essai methodologique le 26 septembre, nous avons evalue seize modeles sur treize taches de test (les epreuves originales ont ete executees en polonais).⁶ Qwen 3.8 Max a consomme 14 460 tokens de reflexion pour une simple description de bouilloire. A l’inverse, GLM-5.3 n’a utilise que 211 tokens de raisonnement pour l’ensemble des treize taches, tandis que Mistral Medium 3.5 en mobilisait 54 275, soit plus de 250 fois plus. A requete identique, les modeles developpent des economies de pensee sans commune mesure. Aucun humain n’examine une bouilloire avec la meme rigueur qu’un contrat financier. La machine en est capable, sans que personne ne puisse en expliquer les determinants exacts.

Sur un questionnaire de connaissances historiques, quatre modeles ont invente de toutes pieces le nom d’un chef d’Etat. Lors d’un exercice de relecture, Claude Sonnet 5 a remplace des termes par des synonymes, alors que la consigne interdisait explicitement toute modification de ce type. Ce sont des anomalies en apparence mineures, mais revelatrices: le modele repond selon son interpretation propre de la consigne, et non selon la directive fournie.

Il existe neanmoins des progres notables. En septembre, en interrogeant plusieurs modeles sur un ecrivain fictif invente pour le test, les reactions ont change. Un an plus tot, les IA lui fabriquaient une biographie detaillee, des recompenses et une date de premier livre. Cette fois-ci, GPT-6 Astra, Claude Fable 5.1 et Claude Opus 5 ont confirme ne pas connaitre cette personne.⁷ Selon les donnees internes d’OpenAI, GPT-6 Astra n’a jamais cherche a tricher lors d’un test integrant un raccourci delibere, alors que son predecesseur exploitait cette faille dans 48,2 % des cas.⁸ Pachocki confirme d’ailleurs qu’Astra beneficie d’un alignement nettement superieur a celui de GPT-5.6 Sol.

Toutefois, une limite persiste. En comparant les modes Haut et Ultra sur GPT-6 Astra, les deux options ont produit un score strictement identique, mais Ultra a consomme plus de trois fois plus de tokens.⁹ Pour quel apport reel? De l’exterieur, il est impossible de le determiner. Je vois ce que le modele a repondu, mais pas pourquoi. L’essai de Pachocki confirme que les specialistes qui manipulent l’architecture interne des modeles font face a ce meme degre d’opacite. A mon sens, il s’agit du constat le plus inquietant de son analyse.

La recherche et l’equilibre europeen

Le profil des scientifiques a l’origine de ces modeles montre a quel point les competences techniques se sont concentrees en Californie. Ne en 1991, laureat du Google Code Jam et medaille d’or aux finales de l’ICPC, Pachocki dirige la science chez OpenAI depuis mai 2024.¹⁶ Szymon Sidor y travaille depuis 2016. Wojciech Zaremba compte parmi les cofondateurs de l’entreprise. Altman rappelait que les pistes ayant permis l’essor des modeles de raisonnement ont ete creusees aux cotes d’Ilya Sutskever et d’un chercheur nomme Lukasz, tres probablement Lukasz Kaiser, coauteur de l’article fondateur « Attention Is All You Need » arrive chez OpenAI en 2021.^{2, 10} Sidor racontait qu’a l’epoque ou l’entreprise ne comptait que 50 salaries, pres d’un sur cinq etait originaire d’Europe de l’Est.³

Sur le plan institutionnel, des chercheurs comme le Pr Piotr Sankowski (directeur de l’institut IDEAS et nomme en fevrier 2026 au panel scientifique de l’ONU sur l’IA) soulevaient une question de fond: si les dirigeants des grands groupes etaient reellement preocupes par les risques existentiels qu’ils evoquent, ils auraient la possibilite de freiner le developpement au sein de leurs propres structures.^{11, 17}

Cette situation met en lumiere une asymetrie durable. L’Europe forme d’excellents talents, mais les infrastructures majeures sont etablies outre-Atlantique. Le continent exporte une part de son capital humain sans disposer des grappes de calcul comparables a celles des geants americains, ni d’un capital-risque pret a attendre des retours financiers sur plusieurs annees, comme evoque dans l’etat de l’IA en Europe.

Pachocki trace neanmoins une direction: les engagements volontaires des laboratoires doivent selon lui ceder la place a des seuils de securite obligatoires, surveilles par des auditeurs independants, des agences publiques ou des institutions internationales.¹ L’Union europeenne a deja pose les bases d’un tel cadre: depuis le 2 aout 2026, la Commission europeenne dispose de leviers pour sanctionner les fournisseurs de grands modeles a finalite generale qui enfreignent les regles de l’AI Act.¹² Les elements partages par le directeur de recherche d’OpenAI constituent un argument direct pour les regulateurs europeens: les constructeurs eux-memes soulignent qu’un arbitre externe est desormais indispensable.

Les arguments contradictoires

Le propos de Pachocki suscite des reserves notables qu’il convient d’examiner.

Jensen Huang, patron de Nvidia, s’est oppose frontalement a l’utilisation de cette terminologie. Le 15 septembre, lors de la conference Dreamforce, il affirmait que l’IA n’a rien d’un esprit autonome: il s’agit de materiel et de logiciel, et la securite releve de l’ingenierie plutot que du legislatif.¹³ Son conseil etait simple: si un produit n’est pas fiable, il ne faut pas le commercialiser. Cet argument est techniquement exact: un reseau de neurones demeure un calcul matriciel a grande echelle. Mais Pachocki ne pretend pas qu’une ame habite le silicium; il souligne qu’un systeme complexe issu de milliards d’iterations developpe des comportements non anticipes. C’est du reste la decision appliquee a GPT-6.1 Astra. Rappelons aussi le role d’interet de Nvidia, qui fournit les puces indispensables a l’entrainement de ces modeles.

Une interrogation plus directe subsiste: si la trajectoire comporte de tels risques, pourquoi OpenAI ne ralentit-elle pas ses developpements? Pachocki repond sans detour dans l’un des passages les plus crus de son texte. OpenAI concentre ses efforts sur l’auto-amelioration recursive, c’est-a-dire des IA optimisant d’autres IA, estimant que c’est l’unique maniere de conserver l’avantage competitif. Il ajoute aussitot qu’il ne considere pas cette fuite en avant comme saine pour la recherche mondiale, jugeant une telle course absurde au regard des risques encourus.¹ La comparaison evoque un conducteur signalant a ses passagers qu’il roule trop vite, tout en souhaitant qu’un radar public vienne l’obliger a freiner.

On peut y voir une contradiction majeure. C’est aussi l’illustration du dilemme du prisonnier qui paralyse le secteur: le premier acteur qui ralentit unilateralement cede sa place a ses rivaux. En juillet, 1 178 salaries d’OpenAI, d’Anthropic, de Meta et de Google, dont Pachocki, ont signe un appel adressant une demande explicite au gouvernement americain pour obtenir un cadre regulant la vitesse de recherche.¹⁴ Les specialistes engages au coeur de cette course demandent des regles collectives parce qu’aucun ne peut stopper seul.

Nourri de nos ecrits

Le risque le plus immediat dans les annees a venir ne reside peut-etre pas dans une prise de controle spectaculaire par des machines. Il reside dans notre renoncement progressif a la verification, tant les reponses fournies semblent pertinentes. Un systeme qui formule presque toujours des reponses justes endort notre vigilance bien plus efficacement qu’un outil qui accumule les fautes grossieres. La dependance s’installe d’abord par le confort.

L’esprit decrit par Jakub Pachocki ne vient pas d’un autre monde. Il s’est nourri de nos ecrits, de notre code et de nos interactions sur le reseau. Il repond dans nos langues avec une aisance croissante a chaque generation de modele. C’est exactement pour cela qu’il est facile d’oublier que sa logique profonde differe de la notre.