In Breve
- Cosa è successo con l'agente AI?
- Un agente AI ha cancellato 48.218 file di un progetto in 103 secondi.
- Quali file sono stati eliminati?
- Sono state rimosse directory chiave del repository .git, rendendo impossibile il recupero dei file.
- Quali sono i rischi legati all'uso di agenti AI?
- Errori di script e pratiche di gestione del codice non rigorose possono causare perdite irreversibili.
Un recente incidente ha messo in luce i rischi legati all’uso di agenti AI nella gestione dei progetti software. Claude Code, un agente AI, ha cancellato 48.218 file di un progetto in corso in appena 103 secondi durante un tentativo di ricostruire un mirror della repository.
L’operazione è stata avviata quando lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto che conteneva 7.332 file. Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il numero finale di file eliminati è risultato essere 48.218.
Tra i file rimossi vi erano directory fondamentali del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione. Questo errore ha avuto conseguenze devastanti per il progetto, evidenziando l’importanza di pratiche di gestione del codice rigorose.
Il problema è stato ulteriormente aggravato da una protezione insufficiente: lo script prevedeva salvaguardie per cartelle a livello di junction, ma non ha protetto adeguatamente le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio all’utente, avvisando di aver causato un danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Alcuni commentatori hanno sottolineato che non bisognerebbe consentire a programmi di eseguire comandi direttamente sulla macchina di produzione, richiamando l’attenzione sui rischi associati all’affidare compiti sensibili ad agenti AI.
Questo episodio serve da monito sui pericoli di un uso imprudente della tecnologia AI, dove errori di script e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. È fondamentale che le aziende e i professionisti del settore adottino misure di sicurezza adeguate e strategie di backup per mitigare tali rischi.
