› La startup Goodfire a lancé jeudi un nouveau type de moniteur pour agents IA : au lieu de relire tout ce que l'agent écrit et exécute, il inspecte directement son fonctionnement interne.
› Disponible pour les clients de la plateforme Baseten, ce système s'avère, selon les tests de l'entreprise, nettement moins coûteux que les approches traditionnelles, tout en offrant une efficacité comparable.Pourquoi surveiller une IA avec une autre IA coûte si cherLe standard actuel de sécurité pour les agents IA est simple sur le plan conceptuel, mais lourd financièrement.
› Il consiste à faire tourner un second modèle chargé d'analyser chaque action du premier : l'intégralité de ce que l'agent lit, rédige et génère.
› Dès lors qu'un agent travaille pendant plusieurs heures et traite l'équivalent textuel de plusieurs romans, la facture de cette supervision explose.