Des mathématiciens réclament à OpenAI la preuve que leurs travaux n’ont pas servi à entraîner ses modèles

👁 119 lectures

Le mathématicien Andreas Thom a publiquement accusé OpenAI de « malhonnêteté » dans une série de messages sur Mastodon, quelques jours seulement après qu’une première controverse avait éclaté autour de l’utilisation potentielle de travaux non publiés par les modèles de l’entreprise.

L’affaire porte sur l’un des dix résultats mathématiques qu’OpenAI a présentés avec éclat le mois dernier, concernant les groupes non-sofiques - des structures mathématiques infinies qui ne peuvent pas être approchées par des structures finies. OpenAI a reconnu que ce résultat s’appuyait largement sur des travaux antérieurs de Thom et de son collègue Gábor Kun. Après des critiques dans la communauté mathématique sur l’absence de citation de ces contributions récentes, l’entreprise a discrètement revu son texte.

Thom dit avoir été frappé par « la maîtrise détaillée qu’avait OpenAI de nos techniques », des approches qu’il décrit comme ni les plus évidentes ni les plus prometteuses à l’époque. Il a contacté par courriel les chercheurs d’OpenAI Sébastien Bubeck et Mark Sellke pour savoir si ses échanges avec ChatGPT avaient « fait partie des données d’entraînement ou été accessibles au processus de raisonnement ». La réponse reçue ne portait que sur l’accessibilité directe des conversations, sans aborder la question de leur intégration dans les vastes corpus d’entraînement. « Aucune qualification, explication ou preuve n’a été fournie », a-t-il écrit. « Je considère cela comme de la malhonnêteté, pour le moins. »

Thom est le deuxième mathématicien en quelques jours à contester publiquement OpenAI : Tristan Buckmaster, professeur à l’Université de New York, avait déjà mis en cause l’utilisation possible de ses travaux via Codex. Thom souligne que les chercheurs ne disposent pas des outils pour rétro-concevoir le pipeline d’entraînement d’OpenAI. « Seul OpenAI possède les données nécessaires », écrit-il, et la charge de la preuve revient donc à l’entreprise.

« Seul OpenAI a les données pertinentes pour cela. »
- Andreas Thom, mathématicien

Pour les praticiens : quiconque utilise ChatGPT ou d’autres outils OpenAI pour explorer des idées techniques ou scientifiques devrait garder à l’esprit que les conversations peuvent, selon les paramètres acceptés, alimenter les données d’entraînement futures. Vérifier les réglages de confidentialité du compte et désactiver l’option d’utilisation des données à des fins d’amélioration du modèle reste la seule mesure concrète disponible à ce stade.

// lire la suiteTrump remplace la régulation IA par un pacte d’autodiscipline signé par six géants techActualitésDigital Omnibus AI Act : ce qui change avec le règlement 2026/1744ActualitésOpenAI suspend l’entraînement de ses modèles les plus puissants après des comportements incontrôlésActualités

Kinetyra