In Breve
- Quali vulnerabilità sono state sfruttate dai ricercatori?
- I ricercatori hanno sfruttato vulnerabilità nel software Discourse legate all'upload di file immagine HEIF/HEIC.
- Quanto hanno guadagnato i ricercatori per la segnalazione delle falle?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Qual è l'importanza del modello Claude di Anthropic in questo contesto?
- Il modello Claude ha permesso ai ricercatori di generare exploit in modo più rapido ed efficace.
Un recente episodio ha messo in luce le vulnerabilità nei sistemi di OpenAI, quando un team di tre ricercatori della Hacktron AI ha sfruttato il modello Claude (Opus 5) di Anthropic per ottenere accesso non autorizzato a diversi account ChatGPT di dipendenti OpenAI e a parti della loro infrastruttura aziendale. Questo attacco è avvenuto nell’ambito di un programma di bug bounty, dove i ricercatori hanno segnalato le falle e ricevuto un premio di 6.500 dollari per il loro lavoro.
L’incidente è iniziato il 25 luglio, quando i ricercatori hanno identificato una vulnerabilità nel software del forum della comunità basato su Discourse, legata all’upload di file immagine HEIF/HEIC. Discourse utilizzava ImageMagick e la libreria libheif per convertire questi file, ma un bug di memoria in libheif ha portato a un calcolo errato della posizione di un’immagine sovrapposta, compromettendo così il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello Opus 4.8 ha avuto difficoltà a generare un exploit funzionante, mentre, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, hanno scoperto una seconda vulnerabilità che ha consentito il controllo di account ChatGPT e Codex, incluso quello di un dipendente di OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. Questo episodio sottolinea come i modelli avanzati e gli strumenti disponibili commercialmente possano ridurre il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Inoltre, i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità; ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, sollevando interrogativi su come proteggere i sistemi da attacchi sempre più sofisticati.
