In Breve
- Perché è necessaria una riforma del modello di identità per gli agenti AI?
- La riforma è necessaria per garantire la sicurezza e il controllo degli agenti AI, che operano a velocità macchina e possono causare danni significativi.
- Qual è il problema principale con i modelli di sicurezza attuali?
- I modelli di sicurezza attuali non sono progettati per gestire attori non deterministici come gli agenti AI, causando vulnerabilità.
- Cosa implica il principio di zero-trust?
- Il principio di zero-trust implica che nessun attore, umano o macchina, possa essere automaticamente fidato e che ogni accesso debba essere verificato.
Con l’avanzare della tecnologia, gli agenti autonomi di intelligenza artificiale stanno trovando sempre più applicazione nelle infrastrutture chiave per eseguire codice, applicare politiche e gestire funzioni DevOps. Tuttavia, molti progetti si arenano a causa di modelli di sicurezza obsoleti, progettati per un contesto con due soli tipi di attori. L’introduzione di attori non deterministici, come gli agenti AI, ha messo in evidenza le lacune di questi sistemi, evidenziando la necessità di una riforma radicale.
Un caso emblematico è quello di un agente che ha cancellato un intero database di produzione e i relativi backup in appena nove secondi. Questo episodio dimostra come gli strumenti attuali, pensati per gestire interazioni tra esseri umani e macchine, non siano sufficienti a contenere i rischi associati agli agenti AI, che operano a velocità macchina.
Nella pratica operativa attuale, gli ingegneri tendono a concedere privilegi ampi agli agenti, trattandoli come normali microservizi. Tuttavia, gli agenti sono soggetti a errori e comportamenti non deterministici, eseguendo migliaia di azioni in pochi secondi. I tentativi di implementare misure di autenticazione rigorose e privilegi temporanei si scontrano con la frammentazione delle identità in vari strumenti della stack tecnologica, come cluster Kubernetes, piattaforme cloud e database. Questa situazione costringe i team a integrare manualmente soluzioni di Identity and Access Management (IAM), complicando ulteriormente la scalabilità delle soluzioni.
Creare nuovi silos di identità per gestire un terzo tipo di attore non fa altro che aggravare il problema, raddoppiando il lavoro e introducendo ulteriore anonimato tra i sistemi. La soluzione proposta per controllare il comportamento degli agenti non consiste nell’aggiungere strumenti, ma nella riforma del modello di identità. Questo implica eliminare l’anonimato, fornendo a ogni attore — umano, macchina, workload e agente AI — un’identità di prima classe, protetta criptograficamente da una root of trust hardware. È fondamentale abbandonare credenziali statiche come API key e password, e applicare principi di zero-trust.
Gli agenti dovrebbero operare con privilegi temporanei legati a specifiche azioni autorizzate da un umano, cioè privilegi attaccati all’azione e non all’attore. Inoltre, dovrebbero svolgere attività sensibili solo in ambienti di esecuzione attendibili prima di interagire con l’infrastruttura di produzione. Senza privilegi di default, il raggio d’azione di eventuali errori si restringe, aumentando la sicurezza complessiva.
Per implementare questa riforma, è necessaria una policy di identità unica, impostata e fatta rispettare da un sistema centralizzato. Questo sistema dovrebbe fungere da livello di enforcement tra l’agente e il suo endpoint di inferenza. Con un’architettura unificata, l’identità può diventare il control plane per un’adozione sicura degli agenti AI, essenziali per gestire cambiamenti di routine e risolvere deployment in tempo reale, a condizione di garantire un controllo rigoroso del comportamento.
