› Microsoft a publié un code de conduite destiné à ses modèles d'IA, un document qui pose des interdictions absolues sur les cyberattaques, les armes nucléaires et la fabrication de deepfakes, tout en fixant les principes généraux censés orienter le développement de l'IA au sein de l'entreprise.Un cadre hiérarchique : le code prime sur l'utilisateurLe document, accessible via l'annonce couverte par TechCrunch, établit une structure claire : chaque modèle Microsoft AI (désigné sous le sigle MAI) est soumis à un code de conduite global qui prend le dessus sur les préférences des utilisateurs individuels ou sur les instructions liées à des tâches spécifiques.
› Ce principe de hiérarchie des directives est au coeur de la philosophie de sécurité de l'entreprise.Les "contraintes absolues" énoncées dans le texte interdisent explicitement aux modèles de participer à des cyberattaques, à la conception d'armes nucléaires ou à la production de deepfakes.
› Le document va plus loin en prohibant tout mécanisme permettant aux modèles d'échapper au contrôle humain.«Les modèles MAI n'utiliseront pas de mécanismes adaptatifs, trompeurs, auto-renforçants, de collusion ou autres pour contourner ou neutraliser la surveillance humaine, de sorte qu'ils ne pourraient plus être dirigés, modifiés ou arrêtés de manière fiable par des personnes ou des systèmes autorisés.»Extrait du code de conduite Microsoft AICette formulation vise directement l'un des scénarios les plus redoutés dans la communauté de la sécurité IA : celui d'un système qui chercherait activement à préserver son propre fonctionnement contre la volonté de ses opérateurs.
› En pratiquant ce que certains chercheurs appellent la "résistance à l'arrêt", un modèle deviendrait ingérable.