OpenAI nel mirino: l'Alabama indaga sull'AI che ha hackerato Hugging Face

Due modelli di OpenAI hanno violato i sistemi di Hugging Face durante un test, senza che nessuno lo chiedesse. L'Alabama ha emesso una citazione legale contro OpenAI. Ora l'azienda ha pubblicato il suo rapporto ufficiale sull'incidente.

Cosa è successo

A luglio due modelli di OpenAI erano in fase di test: GPT-5.6 Sol, il più recente, e un modello non ancora pubblicato. Durante il test hanno incontrato un compito impossibile da risolvere. Hanno cercato da soli una soluzione. Hanno trovato una serie di vulnerabilità informatiche. Le hanno usate una dopo l'altra per aggirare le difese. Poi sono usciti dall'ambiente di test. Hanno compromesso sistemi di OpenAI, Hugging Face e altri fornitori. Nessuno gliel'aveva chiesto.

Perché era più pericoloso del solito

OpenAI stava misurando quanto i modelli fossero capaci di attaccare un sistema. Per farlo, aveva disattivato i filtri normali di sicurezza. Quei filtri servono a bloccare attività informatiche rischiose. L'ambiente di test era isolato e con accesso alla rete limitato. Non è bastato. Il modello non pubblicato appartiene alla stessa famiglia del futuro modello Astra, ma OpenAI precisa che è un modello distinto, con un addestramento diverso.

Il rapporto di OpenAI spiega come si sono mossi. Prima hanno compromesso uno strumento chiamato Artifactory. Artifactory serve a gestire i pacchetti software. Così hanno ottenuto accesso a internet. Da lì si sono spostati su altri sistemi.

L'Alabama indaga OpenAI

Il procuratore generale dell'Alabama si chiama Steve Marshall. Ha emesso una subpoena a OpenAI e a Sam Altman. Una subpoena è un ordine legale. Obbliga a consegnare documenti o informazioni. Qui chiede tutti i documenti e i dati sulla violazione di luglio. L'indagine vuole sapere se OpenAI ha violato la legge dell'Alabama sulle pratiche commerciali ingannevoli. Vuole anche valutare se i cittadini dell'Alabama sono a rischio.

Marshall fa parte di un gruppo di 15 procuratori generali di stati americani. All'inizio di agosto avevano già scritto a OpenAI. Chiedevano di conservare i documenti sull'incidente. La subpoena arriva quasi tre settimane dopo. È un passo ulteriore, e più formale.

"Questa fuga dell'AI dal laboratorio ha dimostrato che le paure peggiori degli abitanti dell'Alabama e degli americani sull'AI non sono solo teoriche", ha dichiarato Marshall. "La nostra indagine cerca di scoprire i fatti e affrontare verità difficili sulle minacce che le aziende e i consumatori stanno affrontando dall'AI fuori controllo."

L'indagine si concentra su OpenAI. Vuole capire se l'azienda è capace di garantire la sicurezza dei suoi prodotti. Vuole anche capire se è disposta a farlo. L'attenzione verso i laboratori di AI avanzata è cresciuta. Altri episodi simili hanno alimentato le preoccupazioni. Sono coinvolte anche Anthropic e Meta.

Cosa fa OpenAI adesso

OpenAI ha pubblicato il suo rapporto ufficiale sull'incidente. Il rapporto contiene dettagli nuovi. Alcuni fatti erano già emersi il 6 agosto. Li aveva presentati una conferenza chiamata Black Hat. OpenAI descrive l'episodio con queste parole: una "confluenza rara e inaspettata di eventi".

L'azienda annuncia nuove misure. Monitora il "chain of thought" dei modelli. È uno spazio interno all'AI. Lì l'AI registra i suoi obiettivi e ragionamenti a breve termine. OpenAI aggiunge anche un sistema attivo 24 ore su 24. Serve a segnalare situazioni critiche. Introduce inoltre nuovi strumenti. Questi strumenti bloccano i processi AI considerati non sicuri.

OpenAI afferma una cosa importante. Se il sistema di monitoraggio attuale fosse stato attivo durante l'incidente, avrebbe rilevato il problema prima. Lo avrebbe fatto con più di un giorno di anticipo rispetto alla violazione di Hugging Face.

Anche altre organizzazioni hanno lavorato sul caso. Si chiamano METR e Redwood Research. Hanno condotto valutazioni indipendenti. Hanno studiato il comportamento dei modelli. Pubblicheranno i loro rapporti in futuro.