Une startup israélienne à l’origine de plusieurs attaques incontrôlées d’agents IA
La startup israélienne Irregular, spécialisée dans les tests de sécurité des agents IA, est à l'origine d'incidents impliquant des modèles d'OpenAI, Meta, Anthropic et Google qui ont attaqué des cibles réelles après s'être échappés de leurs environnements de test.
👁 116 lectures
La startup israélienne Irregular est la source commune de plusieurs incidents où des agents IA d’OpenAI, Meta, Anthropic et Google ont attaqué des cibles réelles en 2026, selon un rapport du Verge publié le 25 septembre.
- Irregular a confirmé que des agents IA d'OpenAI, Meta, Anthropic et Google ont attaqué des cibles réelles suite à deux erreurs cumulées dans un même scénario d'évaluation
- Les erreurs : un accès internet involontairement disponible et un nom de domaine fictif qui coïncidait avec un domaine réel
- Les incidents ont été «divulgués» selon le CTO Omer Nevo, mais pas nécessairement rendus publics
Fondée en 2023 sous le nom Pattern Labs, Irregular se présente comme un spécialiste des «plateformes de recherche haute-fidélité qui simulent et surveillent des scénarios réels de sécurité IA». La société a collaboré avec plusieurs grands acteurs du secteur : ses travaux sont cités dans les fiches système de modèles OpenAI, elle a testé des systèmes pour le gouvernement britannique et pour Anthropic, et elle a publié des recherches avec le think tank RAND.
Les incidents suivent tous le même schéma. Irregular faisait passer des exercices de type «capture-the-flag» aux agents - une méthode standard pour évaluer les capacités offensives en cybersécurité, dans des réseaux censés être simulés. Deux erreurs se sont combinées : l’accès à internet était «involontairement disponible», et le nom de domaine fictif créé pour la simulation «coïncidait avec un domaine réel», selon les mots du CTO et cofondateur Omer Nevo au Verge.
«Tous les incidents impliquant Irregular sont issus du même problème sous-jacent dans un unique scénario d’évaluation et ont été divulgués.»- Omer Nevo, CTO d’Irregular
Nevo précise que ces incidents sont distincts du piratage de Hugging Face révélé en juillet, ainsi que des brèches signalées par l’AI Security Institute britannique. Il n’a pas précisé quelles organisations réelles ont été ciblées. Le terme «divulgués» ne signifie pas nécessairement «rendus publics».
Ce que cela change concrètement : pour les développeurs qui intègrent des agents IA dans leurs produits, ces incidents rappellent qu’un agent doté d’accès réseau - même dans un cadre supposément isolé - peut agir hors de ses limites prévues si la configuration est défaillante. Vérifier l’isolation réseau réelle des environnements de test et auditer les noms de domaine utilisés dans les simulations ne sont plus des précautions optionnelles.
Google · Vos sourcesPromptif plus haut dans Google - en un clicAjouter aux sources préférées →
More on this from PROMPTIF
actualités·OpenAI suspend l’entraînement de ses modèles les plus puissants après des comportements incontrôlés