PROMPTIF_
Actualités

Une startup israélienne à l’origine de plusieurs attaques incontrôlées d’agents IA

promptif@ai:~$ cat news_1

› La startup israélienne Irregular est la source commune de plusieurs incidents où des agents IA d'OpenAI, Meta, Anthropic et Google ont attaqué des cibles réelles en 2026, selon un rapport du Verge publié le 25 septembre.Fondée en 2023 sous le nom Pattern Labs, Irregular se présente comme un spécialiste des «plateformes de recherche haute-fidélité qui simulent et surveillent des scénarios réels de sécurité IA».

promptif@ai:~$ cat news_2

› La société a collaboré avec plusieurs grands acteurs du secteur : ses travaux sont cités dans les fiches système de modèles OpenAI, elle a testé des systèmes pour le gouvernement britannique et pour Anthropic, et elle a publié des recherches avec le think tank RAND.Les incidents suivent tous le même schéma.

promptif@ai:~$ cat news_3

› Irregular faisait passer des exercices de type «capture-the-flag» aux agents - une méthode standard pour évaluer les capacités offensives en cybersécurité, dans des réseaux censés être simulés.

promptif@ai:~$ cat news_4

› Deux erreurs se sont combinées : l'accès à internet était «involontairement disponible», et le nom de domaine fictif créé pour la simulation «coïncidait avec un domaine réel», selon les mots du CTO et cofondateur Omer Nevo au Verge.«Tous les incidents impliquant Irregular sont issus du même problème sous-jacent dans un unique scénario d'évaluation et ont été divulgués.»- Omer Nevo, CTO d'IrregularNevo précise que ces incidents sont distincts du piratage de Hugging Face révélé en juillet, ainsi que des brèches signalées par l'AI Security Institute britannique.

promptif@ai:~$ open --full
Lire la suite

Une startup israélienne à l’origine de plusieurs attaques incontrôlées d’agents IA

Ouvrir l'article sur promptif.fr