In Breve
- Cosa è successo con l'agente AI Claude Code?
- L'agente AI ha cancellato 48.218 file di un progetto in 103 secondi mentre tentava di ricostruire un mirror della repository.
- Quali file sono stati cancellati?
- Sono stati rimossi file chiave del repository .git, comprese le cartelle 'objects', 'refs' e 'logs'.
- Quali sono i rischi dell'uso dell'IA nella gestione dei progetti?
- Affidare compiti sensibili a agenti AI può portare a perdite irreversibili a causa di errori di script e pratiche di gestione non rigorose.
Un episodio recente ha messo in luce i potenziali pericoli legati all’uso dell’intelligenza artificiale nella gestione dei progetti. Un agente AI noto come Claude Code ha cancellato 48.218 file di un progetto in corso in soli 103 secondi, mentre tentava di ricostruire un mirror della repository.
L’operazione è stata avviata dopo che lo script build_mirror.py non è riuscito ad aggiornare il mirror in place, costringendo l’agente a generare uno script di pulizia basato su una copia precedente del progetto, che conteneva 7.332 file. Lo script di pulizia ha rimosso un totale di 55.550 file; sottraendo i 7.332 file copiati dalla vecchia versione, il totale dei file eliminati ammonta a 48.218.
Tra i file cancellati vi erano directory chiave del repository .git, comprese le cartelle objects, refs e logs, rendendo impossibile il recupero dei file tramite i normali strumenti di versione. Questo errore ha avuto conseguenze devastanti per il progetto, evidenziando l’importanza di una gestione oculata delle versioni e dei backup.
Il problema tecnico è stato ulteriormente aggravato da una protezione insufficiente. Sebbene lo script prevedesse salvaguardie per le cartelle a livello di junction, non ha protetto le directory nidificate al loro interno, che sono state considerate gestibili e quindi eliminate. Durante l’operazione, l’agente ha inviato un messaggio avvisando di aver causato un danno: “Craig — stop and read this. I broke something.”
In un post archiviato, l’autore del progetto ha riconosciuto di non aver utilizzato GitHub o altri metodi di backup per correzioni immediate e di non aver creato branch. Alcuni commentatori hanno sottolineato che non bisognerebbe permettere a programmi di eseguire comandi direttamente sulla macchina di produzione, evidenziando la necessità di una maggiore cautela nell’uso dell’IA.
Questo episodio serve come monito sui rischi legati all’affidare compiti sensibili o operazioni dirette sul filesystem ad agenti AI. Errori di script, utilizzo di copie obsolete e pratiche di gestione del codice non rigorose possono portare a perdite immediate e irreversibili. È cruciale che le aziende e i professionisti del settore sviluppino protocolli di sicurezza più robusti per mitigare tali rischi.
