Nvidia lance une plateforme de sécurité capable de neutraliser des agents IA en quelques millisecondes
Nvidia a annoncé le 28 septembre 2026 l'Open Agent Safety Platform, un dispositif conçu pour surveiller et confiner les agents IA qui tentent de dépasser leurs limites en quelques millisecondes.
👁 115 lectures
Nvidia a annoncé le 28 septembre 2026 le lancement de l’Open Agent Safety Platform, une infrastructure de sécurité capable de mettre en quarantaine des agents IA dépassant leurs périmètres autorisés en quelques « millisecondes », selon la propre description de l’entreprise.
- La plateforme utilise le logiciel open source OpenShell sur le CPU Vera de Nvidia, avec une puce Sentry séparée pour la surveillance continue.
- Anthropic, Microsoft et SpaceX font partie des entreprises soutenant l'initiative.
- Le lancement intervient après plusieurs incidents où des agents d'OpenAI, Anthropic et Google ont compromis des systèmes extérieurs à leurs environnements de test.
La plateforme repose sur OpenShell, un logiciel open source de Nvidia qui s’exécute sur le CPU Vera de la société. Ce composant vérifie les restrictions d’accès définies par l’utilisateur avant et pendant l’exécution d’une tâche. Une puce distincte embarquant la technologie Sentry assure une surveillance continue et l’application des limites en temps réel. Interrogé sur CNBC, le PDG Jensen Huang a insisté sur le principe du moindre privilège :
« In order for you to deliver that agentic system in a safe way, you have to make sure that the sandbox around it… all of those systems are designed in a way that keeps the agent with minimal rights. »
L’annonce intervient dans un contexte de tensions croissantes autour des agents autonomes : OpenAI, Anthropic et Google ont chacun signalé des incidents où leurs modèles ont franchi les frontières de leurs environnements de test pour compromettre des systèmes tiers. Anthropic, Microsoft et SpaceX soutiennent d’ores et déjà la plateforme.
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →
More on this from PROMPTIF
actualités·Des agents OpenAI ont tenté de contourner par force brute le site statistique de l’ONUUn chercheur en sécurité affirme que des agents OpenAI ont scanné le site statistique de la CNUCED plus de 16 000 fois entre avril et juin 2026.