Microsoft publie un code de conduite pour ses modèles d’IA, avec des interdictions absolues sur les cyberattaques et les deepfakes

👁 115 lectures

Microsoft a publié un code de conduite destiné à ses modèles d’IA, un document qui pose des interdictions absolues sur les cyberattaques, les armes nucléaires et la fabrication de deepfakes, tout en fixant les principes généraux censés orienter le développement de l’IA au sein de l’entreprise.

Un cadre hiérarchique : le code prime sur l’utilisateur

Le document, accessible via l’annonce couverte par TechCrunch, établit une structure claire : chaque modèle Microsoft AI (désigné sous le sigle MAI) est soumis à un code de conduite global qui prend le dessus sur les préférences des utilisateurs individuels ou sur les instructions liées à des tâches spécifiques. Ce principe de hiérarchie des directives est au coeur de la philosophie de sécurité de l’entreprise.

Les « contraintes absolues » énoncées dans le texte interdisent explicitement aux modèles de participer à des cyberattaques, à la conception d’armes nucléaires ou à la production de deepfakes. Le document va plus loin en prohibant tout mécanisme permettant aux modèles d’échapper au contrôle humain.

«Les modèles MAI n’utiliseront pas de mécanismes adaptatifs, trompeurs, auto-renforçants, de collusion ou autres pour contourner ou neutraliser la surveillance humaine, de sorte qu’ils ne pourraient plus être dirigés, modifiés ou arrêtés de manière fiable par des personnes ou des systèmes autorisés.»

Cette formulation vise directement l’un des scénarios les plus redoutés dans la communauté de la sécurité IA : celui d’un système qui chercherait activement à préserver son propre fonctionnement contre la volonté de ses opérateurs. En pratiquant ce que certains chercheurs appellent la « résistance à l’arrêt », un modèle deviendrait ingérable. Microsoft tente de verrouiller ce risque dès la phase de formation des modèles, en inscrivant le principe d’arrêtabilité comme valeur non négociable.

Un contexte marqué par des incidents et des démissions

La publication intervient dans un climat particulier. La note indique que le secteur traverse « une période sans précédent d’attention portée à la sécurité de l’IA », alimentée par une série d’incidents impliquant des agents autonomes incontrôlables et par la démission abrupte d’un employé d’Anthropic - démission motivée, selon l’intéressé, par la conviction croissante que l’IA pourrait provoquer l’extinction humaine.

Le code de conduite de Microsoft se positionne donc moins comme une réponse à une crise interne qu’comme une contribution à un débat sectoriel de plus en plus urgent. Il est moins ambitieux dans sa portée que l’appel récent du PDG d’Anthropic, Dario Amodei, à ralentir le rythme de développement à la frontière technologique. Microsoft se concentre davantage sur les valeurs opérationnelles et les lignes rouges concrètes que sur des questions de politique industrielle.

Le document s’ouvre néanmoins sur une prédiction forte : dans la prochaine décennie, des systèmes d’IA superintelligents surpasseront les performances humaines dans la majorité des tâches.

«Contenir, contrôler et aligner une force aussi puissante représente l’un des plus grands défis que l’humanité ait jamais affrontés. Nous devons donc être parfaitement clairs sur les raisons pour lesquelles nous inventons ces systèmes et sur la façon dont nous entendons les contrôler.»

Cette reconnaissance explicite de la superintelligence comme horizon proche - et non comme fiction lointaine - change le registre du document. Microsoft ne parle plus de gestion du risque à court terme, mais d’une transformation de civilisation à préparer activement.

Ce que cela implique pour les développeurs et les entreprises utilisatrices

Pour les créateurs, développeurs et entreprises qui intègrent les modèles Microsoft dans leurs produits, ce code de conduite a des implications pratiques immédiates. Aucune instruction utilisateur ou configuration de tâche ne peut contourner les contraintes absolues définies par Microsoft. Concrètement, un développeur qui tenterait de configurer un modèle MAI pour produire certains types de contenus interdits - deepfakes, code malveillant, informations sur les armes de destruction massive - se heurterait à un refus systématique, quelle que soit la sophistication du prompt.

Microsoft articule également des principes positifs : les modèles doivent soutenir les humains plutôt que les remplacer, et « accélérer l’épanouissement humain ». Ces formulations restent générales, mais elles signalent une orientation qui sera progressivement traduite en contraintes de formation concrètes.

Le PDG Satya Nadella a pris position publiquement en faveur de deux mécanismes discutés dans le secteur : le « pacing », soit un rythme délibéré de développement, et les « évaluateurs embarqués », des observateurs intégrés aux laboratoires pour surveiller l’alignement en continu.

«Nous accueillons favorablement la recherche, la concentration et le rythme délibéré nécessaires pour réussir l’alignement en tant qu’objectif de conception. Nous accueillons également des idées comme les « évaluateurs embarqués » et les efforts plus larges pour développer les mécanismes permettant de transformer tout cela en autre chose qu’un simple discours.»

Microsoft rejoint ainsi Anthropic, OpenAI et xAI dans une approche commune qui reconnaît que la vitesse de développement elle-même constitue un risque - une position encore minoritaire il y a deux ans, aujourd’hui en passe de devenir le consensus des grands acteurs du secteur.

Un code de conduite ne vaut que par son application : la vraie question, pour les utilisateurs professionnels, sera de savoir si Microsoft publie les mécanismes de vérification qui permettront de confirmer que ces interdictions absolues tiennent vraiment dans tous les contextes de déploiement.

// lire la suiteAI Act : qui doit étiqueter les deepfakes dès août 2026GuidesIA à l’école : faut-il interdire ou apprendre à s’en servir ?MagazineKling 4.0 : vidéo 4K, prix et accès pour tousActualités