In Breve
- Qual è il rischio principale associato al pulsante 'Approvo'?
- Il rischio principale è che diventi un rito privo di valutazione critica, rendendo difficile attribuire responsabilità in caso di malfunzionamenti.
- Come devono essere trattati gli agenti AI?
- Devono essere trattati come entità dotate di identità, richiedendo credenziali e audit trail simili a quelle degli operatori umani.
- Qual è l'importanza della supervisione umana negli agenti AI?
- La supervisione umana è essenziale per garantire trasparenza e allineamento con gli obiettivi organizzativi.
Negli ultimi anni, l’adozione di sistemi automatizzati per la gestione delle reti ha sollevato interrogativi cruciali sulla governance e la responsabilità. Un aspetto particolarmente critico è rappresentato dal pulsante ‘Approvo’, che può trasformarsi in un rito privo di reale valutazione critica. Questa situazione è emersa in particolare nei sistemi di remediation automatica, dove le azioni correttive vengono eseguite senza notifiche, lasciando agli operatori umani il compito di verificare le operazioni solo successivamente.
Markus Nispel, CTO EMEA e Head of AI Engineering di Extreme Networks, sottolinea che, senza vincoli adeguati, le deleghe a sistemi agentici possono accumularsi, portando a livelli di autonomia non esplicitamente approvati. Secondo recenti ricerche, il 57% dei responsabili IT prevede di rimuovere gli esseri umani dal processo decisionale entro un anno, mentre il 79% già considera gli agenti AI come ‘utenti’ che necessitano di gestione delle identità e controlli di governance.
È fondamentale trattare gli agenti che operano su reti come entità dotate di identità. Questi richiedono credenziali, politiche operative, spiegabilità e audit trail, analogamente agli operatori umani. Tuttavia, molte infrastrutture di gestione degli accessi sono state progettate per persone, e applicare soluzioni informali agli agenti può generare accessi ‘ombra’ e rischi non quantificabili. Per mitigare tali rischi, ogni agente deve essere configurato con permessi limitati, accesso temporizzato e percorsi di revoca chiari, accompagnati da un registro completo delle azioni compiute e delle motivazioni che hanno guidato le scelte.
La fiducia nell’autonomia degli agenti deve essere graduale. È consigliabile che gli agenti inizino in modalità suggerimento, guadagnando capacità operative in base a prove e limiti definiti, piuttosto che ricevere autonomie totali sin dall’inizio. Con l’aumento della complessità e del volume delle decisioni autonome, è essenziale affiancare la supervisione umana a infrastrutture che integrino identità, enforcement delle policy, osservabilità e responsabilità, garantendo così trasparenza e allineamento con gli obiettivi organizzativi.
Nei sistemi multi-agente, la complessità aumenta ulteriormente. Una catena di agenti che si passano contesto rende difficile ricostruire gli eventi, poiché è necessario comprendere cosa ciascun agente conosceva oltre a ciò che ha fatto. Pertanto, il lavoro di impostare permessi rigorosi, controlli d’identità e audit trail è cruciale per distinguere le implementazioni resilienti da quelle che espongono l’organizzazione a rischi latenti.
