Microsoft: un cadre interne qualifiait le scraping d’IA de «plus grand vol de travail de l’histoire humaine»

👁 119 lectures

Des documents internes de Microsoft et OpenAI, déclassifiés jeudi dans le cadre d’une motion pour jugement sommaire déposée par des organisations de presse menées par le New York Times, révèlent que des responsables des deux entreprises reconnaissaient en privé les risques considérables liés à l’utilisation de contenus journalistiques pour entraîner leurs modèles d’intelligence artificielle.

Brent Hecht, directeur de la science appliquée chez Microsoft, est l’auteur des formulations les plus frappantes. Dans plusieurs documents internes cités par les plaignants, il décrivait le scraping de la presse comme «an astonishing theft of unprecedented proportions», allant jusqu’à parler du «plus grand vol de travail de l’histoire humaine». Dans un autre document, Hecht contredisait directement l’argument central de la défense de Microsoft et OpenAI - celui du fair use - en écrivant que le plan de scraping massif faisait «a complete mockery of the idea of ‘fair use’.» Il reconnaissait par ailleurs que «presque personne n’avait l’intention que le contenu qu’il avait créé soit utilisé de cette façon, et personne n’est compensé pour son utilisation».

Du côté d’OpenAI, Nick Turley, responsable de ChatGPT, avertissait dans un message interne que les éditeurs feraient face à une «menace existentielle» de la part de produits commerciaux entraînés sur leurs contenus et capables de se substituer aux sources d’information. Un document Microsoft décrivait quant à lui une «boucle infernale» susceptible de «nuire à la performance de nos modèles et à l’ensemble du web simultanément». Le même document concluait: «Il est très inhabituel qu’un produit final menace les fondements économiques de ses fournisseurs essentiels, mais c’est la situation que nous avons créée pour notre activité LLM vis-à-vis de sa chaîne d’approvisionnement en contenu.»

Des données qui corroborent les avertissements internes

Les chiffres produits lors de la procédure donnent corps à ces mises en garde. Microsoft a enregistré des baisses de taux de clics de 83 à 93 % pour certains plaignants presse, et de 51 à 94 % pour d’autres. Ces chiffres s’ajoutent aux rapports sur les faibles taux de clics générés par les résultats de recherche de ChatGPT, ainsi qu’aux propres mesures de trafic des organisations de presse.

Interrogé sous serment, le PDG de Microsoft, Satya Nadella, a reconnu que les chatbots avaient servi de substituts aux plateformes d’information. Il a également déclaré que les entreprises d’IA ne devraient pas contourner les conditions d’utilisation des sites de presse pour franchir leurs paywalls. Or, un message interne d’OpenAI montre que lorsqu’un employé, Nick Ryder, a informé le président Greg Brockman qu’un «hack» avait été trouvé pour que les robots d’exploration d’OpenAI contournent le paywall du New York Times, Brockman a répondu: «Ah, nice.»

Les organisations de presse affirment être prêtes à aller au procès, estimant disposer de preuves «convaincantes de substitution». Elles soutiennent que si les chatbots les remplacent sur leur propre marché tout en reproduisant des extraits d’articles mot pour mot, cette double démonstration pourrait invalider les arguments de fair use de Microsoft et OpenAI.

// lire la suiteRockstar Games : histoire, studios et coulisses de GTA 6MagazineLe scraping est-il légal dans l’UE ? RGPD, TDM et bases de donnéesGuidesMicrosoft-Decision-1 : classement et test du modèleBenchmarks

Kinetyra