In Breve
- Qual è stata la vulnerabilità sfruttata dai ricercatori?
- I ricercatori hanno sfruttato un difetto nel software del forum Discourse legato all'upload di file immagine HEIF/HEIC.
- Quanto hanno guadagnato i ricercatori per la segnalazione delle vulnerabilità?
- I ricercatori hanno ricevuto un premio di 6.500 dollari.
- Cosa evidenzia questo episodio sulla sicurezza informatica?
- L'episodio mostra come modelli avanzati possano facilitare lo sviluppo di exploit, riducendo il tempo e le competenze necessarie.
Il 25 luglio, un team di tre ricercatori di Hacktron AI ha messo in evidenza le vulnerabilità di sicurezza nei sistemi di OpenAI, utilizzando il modello Claude (Opus 5) di Anthropic. Questo accesso non autorizzato ha consentito loro di compromettere più account ChatGPT di dipendenti OpenAI e di accedere a parti dell’infrastruttura aziendale.
L’attività è stata condotta nell’ambito di un programma di bug bounty, attraverso il quale i ricercatori hanno segnalato le falle riscontrate, ricevendo un premio di 6.500 dollari. OpenAI ha prontamente risolto i problemi identificati.
La vulnerabilità iniziale era legata a un difetto nel software del forum della comunità basato su Discourse, specificamente nell’upload di file immagine HEIF/HEIC. Discourse convertiva questi file tramite ImageMagick e la libreria libheif. Un bug di memoria in libheif causava un calcolo errato della posizione di un’immagine sovrapposta, sufficiente a compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello Opus 4.8 non era in grado di generare un exploit funzionante. Tuttavia, entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrre un exploit efficace. Una volta ottenuto l’accesso al server Discourse, hanno scoperto una seconda vulnerabilità che ha permesso il controllo di account ChatGPT e Codex, inclusi quelli di un dipendente OpenAI collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. Questo episodio mette in luce come modelli avanzati e strumenti commerciali possano ridurre significativamente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit, trasformando un lavoro che prima richiedeva mesi in uno che può essere completato in giorni”.
È interessante notare che Opus 5 non ha subito le restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, limitata temporaneamente per timori sulle sue capacità di hacking. Inoltre, i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai è a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un momento di crescente attenzione sulla sicurezza nelle principali aziende che sviluppano intelligenze artificiali, evidenziando la necessità di rafforzare le misure di sicurezza per proteggere le infrastrutture critiche.
