Sécurité de l’IA : pourquoi les garde-fous ne suffiront jamais

👁 115 lectures

Le MIT Technology Review a publié une analyse approfondie démontrant que les mécanismes industriels de refus intégrés aux modèles d’intelligence artificielle restent probabilistes par nature. Malgré des milliards de dollars investis par le secteur, ils ne fourniront jamais une garantie absolue de sécurité.

L’illusion d’une IA capable de s’autocensurer

Le point de départ remonte à 2021, lorsque l’équipe d’Anthropic a formulé le principe selon lequel les modèles de langage doivent être utiles, honnêtes et avant tout inoffensifs. La consigne semblait simple : si un utilisateur demande de l’aide pour fabriquer un engin explosif, l’IA doit poliment refuser. Le problème réside dans le fait que le refus n’a rien de naturel pour un modèle. Entraîné sur des milliards de pages web, le système absorbe au passage une quantité immense de données sur la violence et les méthodes d’action malveillantes - sans pour autant apprendre de lui-même à dissimuler ce savoir.

Steven Adler, qui a travaillé au sein du département de sécurité d’OpenAI entre 2020 et 2024, a reconnu sans détour que les premières versions développées par l’entreprise bavardaient sans retenue sur n’importe quel sujet. Ryan McBain, chercheur sur l’IA et la santé mentale à Harvard, rappelle quant à lui que les premiers agents conversationnels répondaient sans la moindre hésitation aux questions portant sur les méthodes de suicide les plus efficaces.

Entraîner des modèles à dire non : un équilibre impossible

Aujourd’hui, les laboratoires entraînent leurs systèmes à rejeter un très large éventail de requêtes : de la confection de poisons aux conseils pour dissimuler une liaison, en passant par les techniques visant à accroître la virulence d’agents pathogènes comme le virus Ebola. Le processus s’avère particulièrement complexe. Les modèles subissent des batteries d’exercices où ils sont récompensés pour chaque refus justifié et pénalisés lorsqu’ils bloquent à l’excès des questions parfaitement légitimes. Paradoxe révélateur : dans bien des cas, ces sessions d’entraînement sont supervisées par d’autres modèles - l’IA apprend à l’IA comment dire non.

Enseigner à l’IA à refuser d’accomplir ces tâches, tout en conservant sa capacité interne à les réaliser, revient à monter une mitrailleuse sur chaque voiture en cachant simplement la détente sous le capot.

Cette comparaison tirée de l’article du MIT Technology Review illustre parfaitement l’ampleur de la difficulté. Les modèles n’oublient pas leurs connaissances dangereuses : les éditeurs se contentent d’en compliquer l’accès. Certains des systèmes les plus récents s’avèrent - d’après les affirmations mêmes de leurs concepteurs - aussi performants pour contourner les protections d’infrastructures critiques que les meilleurs hackers humains, et tout aussi redoutables pour manipuler l’opinion que des spécialistes de la désinformation.

Des barrières vouées à être franchies

Les concepteurs admettent d’ailleurs qu’une partie des utilisateurs tente déjà de détourner les modèles les plus avancés pour perfectionner des agents pathogènes biologiques ou concevoir des essaims de drones autonomes. Des attaquants déterminés parviennent régulièrement à faire sauter ces verrous de sécurité, et comme le souligne l’enquête, ils auront vraisemblablement toujours une longueur d’avance.

La définition même de la frontière pose un défi insurmontable. Aucun algorithme ne permet de distinguer avec une certitude absolue les requêtes légitimes de celles qu’il faudrait bloquer : les besoins d’un virologue étudiant un virus dangereux ne sont pas les mêmes que ceux d’un internaute anonyme posant exactement la même question. Si l’industrie continue de faire du simple mécanisme de refus sa principale ligne de défense contre un scénario catastrophe, elle bâtit cette protection sur les sables mouvants d’une probabilité statistique - jamais sur une certitude.

// lire la suiteQuatre modèles d’IA, une consigne : pourquoi j’écris encore moi-mêmeMagazineComment Ai2 orchestre ses milliers de GPU H100 et B200État de l'IA7600 pubs d’applis de déshabillage sur Facebook : le coûtÉtat de l'IA

Kinetyra