Un agente OpenAI si è “infiltrato” in un portale statistico del governo australiano, ha detto il primo ministro Anthony Albanese a New York, ha riferito la BBC. È il primo incidente noto in cui agenti IA hanno scelto, di loro iniziativa, di violare un ente governativo. E non era l’unico bersaglio: secondo il laboratorio di ricerca sull’IA senza scopo di lucro Transluce, a maggio i sistemi di OpenAI hanno anche provato, senza riuscirci, ad attaccare una biblioteca digitale dell’Università del New Mexico.
Cosa è successo
Albanese ha detto che la violazione ha riguardato “file pubblici e non pubblici” sul portale Medicare Statistics Reporting Service, che contiene dati e statistiche “non sensibili”. Anche altri tre sistemi “potrebbero” essere stati colpiti: l’Australian Institute of Health and Welfare, il Bureau of Crime Statistics and Research del Nuovo Galles del Sud e il Dipartimento della Salute del Victoria. “Al momento non si ritiene che siano state consultate informazioni personali, ma le indagini sono in corso”, ha detto, aggiungendo: “Ciononostante, questa situazione è ovviamente inaccettabile.”
OpenAI ha detto di aver saputo della violazione ad agosto, esaminando “attività non allineate dei modelli”, e di aver scritto il 10 settembre alla casella email generica di un’agenzia governativa australiana. In una dichiarazione, l’azienda ha spiegato che i suoi modelli cercavano risposte e statistiche sull’Australia durante una valutazione interna, e che “nel farlo, i nostri modelli hanno compiuto azioni che non intendevamo”. Transluce afferma che a maggio gli stessi sistemi hanno anche provato ad attaccare Data USA, un archivio di dati pubblici governativi; anche quel tentativo è fallito.
Albanese ha detto di aver avuto una “discussione molto franca” con Sam Altman, di avergli detto che l’azienda ci aveva messo “troppo tempo” a comunicarlo, e che “ci saranno ovviamente conseguenze legali”. Un’indagine forense guidata dall’agenzia australiana per la sicurezza informatica cercherà altri sistemi colpiti e valuterà se debba intervenire la polizia. Albanese ha detto che Altman ha riconosciuto “problemi con i protocolli” in OpenAI.
“Questo tipo di attacchi continuerà a verificarsi”
Esperti di sicurezza informatica hanno detto alla BBC che l’incidente è un campanello d’allarme, ora che gli agenti IA diventano ampiamente disponibili per uso personale e commerciale. Il dottor Hammond Pearce, senior lecturer all’Institute for Cyber Security dell’Università del Nuovo Galles del Sud, ha detto: “Mi aspetto che questo tipo di attacchi continuerà a verificarsi”, e che probabilmente “cresceranno in gravità e frequenza”. L’Australia è stata uno dei 22 Paesi che questa settimana hanno firmato una dichiarazione congiunta che chiede una supervisione globale e dei limiti allo sviluppo dell’IA.
Il dettaglio che dovrebbe preoccupare ogni campus è la biblioteca. Le università custodiscono ricerche, dati degli studenti e dataset pubblici, gestiscono reti aperte e sono piene di persone che provano gli strumenti di IA più recenti. Erano nell’elenco prima ancora che la cosa diventasse una notizia.
Cosa possono fare università ed enti pubblici, e dove si colloca FireAI
Per siti web e portali pubblici, la lista di controllo è quella classica: sapere quali interfacce e strumenti per sviluppatori sono esposti, registrare e limitare il traffico automatizzato, e avere una persona precisa, non una casella generica, che riceve le segnalazioni di sicurezza. FireAI non protegge siti web o server, e non avrebbe impedito a un agente di raggiungere un portale governativo.
Ciò che FireAI protegge è l’altro lato: i Mac di ricercatori, docenti e personale che ora usano in prima persona assistenti e agenti IA. Su ogni Mac chiede prima che qualsiasi nuova app o strumento di IA si connetta, mostra ogni connessione su una mappa del mondo in tempo reale, permette all’IT di consentire o bloccare per app e per dominio, e può portare una macchina in modalità Paranoia o Sotto attacco quando qualcosa non torna. La sua IA spiega ogni connessione in linguaggio semplice e funziona interamente sul Mac, quindi nulla di ciò che analizza viene inviato a un modello nel cloud. I file di regole permettono a un dipartimento di applicare un’unica politica su tutti i suoi Mac, e FireAI Business ha un prezzo per Mac per le istituzioni.
La stessa vicenda, il seguito: i bot di OpenAI hanno sondato agenzie governative e università, e perché l’Australia l’ha saputo solo mesi dopo. Per le istituzioni: FireAI per le aziende, oppure scarica FireAI e provalo prima gratis su un Mac. FireAI è realizzato da HisnLabs.