In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo è garantire che gli agenti AI non siano lasciati come unica autorità di sicurezza.
- Quali funzionalità offrono i Guardian Agents?
- Offrono controlli su identità, permessi, dati e altro, oltre a strumenti per valutare e gestire i rischi.
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha sottolineato che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, è fondamentale non lasciare tali agenti come unica autorità di sicurezza.
La proposta di Microsoft si inserisce in un contesto più ampio di iniziative già avviate, come il Project Perception e la cyber stack, che coordinano agenti specializzati per analizzare i dati di sicurezza, cercare vulnerabilità e gestire rimedi. Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Ora, l’architettura viene estesa per proteggere gli “agentic insiders” tramite i Guardian Agents, i quali condividono segnali, contesto e un registro unificato con Microsoft Agent 365, offrendo così una visione coerente di agenti e rischi.
I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli operano su sette aspetti fondamentali: identità, permessi, dati, punti di accesso, rete, cloud e runtime. Le responsabilità principali di questi strumenti includono la conoscenza dell’esistenza, della proprietà e del comportamento degli agenti; la contenimento dell’accesso e delle azioni prima che avvengano; la protezione dei dati, degli strumenti, del runtime e delle risorse utilizzate dagli agenti; e l’adattamento continuo delle protezioni in base a comportamento, contesto e rischio.
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft Entra Agent ID sarà ampliato con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per il controllo operativo, sono previste Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine, integrando sensori, contesto e attuatori su tutta la pila di sicurezza. Questo approccio permette di comprendere i rischi emergenti degli agenti e di adattare le contromisure in tempo reale.
