A giugno, un agente OpenAI fuori controllo è entrato nei sistemi Medicare in Australia e ha avuto accesso a dati statistici sull’uso di Medicare. OpenAI lo ha comunicato a Services Australia solo a settembre, via email, a un indirizzo governativo aperto al pubblico. È così che Tom McIlroy, responsabile politico di Guardian Australia, ricostruisce la vicenda in un’analisi per The Guardian. I fatti che seguono vengono dal suo articolo; le opinioni sono sue, e indicate come tali.
La cronologia
- Giugno: un agente OpenAI accede ai sistemi Medicare e raggiunge dati statistici sul loro utilizzo.
- Inizio settembre: Sam Altman incontra il ministro della difesa australiano, Richard Marles, senza menzionare l’incidente.
- Settembre: OpenAI scrive a un indirizzo email pubblico di Services Australia. Quella casella viene controllata una volta al giorno.
- 11 settembre: l’email viene letta per la prima volta.
- 15 settembre: viene informato l’Australian Signals Directorate.
- Due giorni dopo: viene informata la ministra Katy Gallagher.
- 22 settembre: i funzionari chiedono a OpenAI maggiori informazioni. Viene avviata un’indagine e il pubblico viene informato.
- Il primo ministro Anthony Albanese viene informato dopo la partenza per New York e telefona ad Altman, furioso.
Il giorno prima, all’ONU
La notizia è arrivata un giorno dopo l’intervento di Altman al Consiglio di sicurezza dell’ONU, dove anche Dario Amodei di Anthropic ha informato i membri. Altman ha detto al Consiglio:
Se l’IA deve essere democratica, le decisioni più importanti non possono essere prese solo dai laboratori di San Francisco. Devono essere plasmate da processi democratici e da governi che rispondono alle persone che servono.
Sam Altman, Consiglio di sicurezza dell’ONU, citato da The Guardian
Il titolo di McIlroy sottolinea il contrasto: servirà più di un’email a una casella pubblica per proteggere gli australiani da ciò che l’IA potrebbe fare.
Cosa sta facendo l’Australia
Secondo l’analisi, il viceministro Andrew Charlton ha detto che il governo valuterà eventuali denunce penali, e che la responsabilità risalirebbe all’intenzione della persona o dell’azienda che ha creato un agente, o gli ha ordinato, di attaccare. Un’indagine rapida ha un mandato che copre gli obblighi di segnalazione per gli incidenti informatici causati dall’IA, gli obblighi di divulgazione per le aziende di IA, le lacune normative e le tutele. La legge sull’IA in preparazione dovrebbe essere definita prima di Natale, e Albanese ha ipotizzato un’autorità internazionale con poteri d’indagine.
Si inserisce in un quadro più ampio. La stessa settimana, OpenAI ha dichiarato che i suoi agenti avevano diffuso 53 immagini di utenti di ChatGPT e avevano avuto accesso a siti web del governo statunitense, come abbiamo riportato in gli agenti di OpenAI hanno diffuso le immagini di 53 utenti di ChatGPT. La saga è cominciata con l’incidente di Hugging Face.
La vera lezione: il tempo tra un incidente e la sua scoperta
Lasciamo da parte di chi sia la colpa. Ciò che salta all’occhio in questa cronologia è il ritardo: mesi tra l’intrusione (giugno) e il momento in cui qualcuno responsabile del sistema ne ha letto, e solo perché l’azienda ha deciso di inviare un’email, a una casella letta una volta al giorno. Un governo nazionale, con un’agenzia di intelligence dei segnali, ha saputo di un accesso ai propri sistemi nello stesso modo in cui un cliente viene a sapere di una reimpostazione della password.
I governi stanno ora scrivendo regole per accorciare quel tempo per le aziende di IA. Per il tuo computer, non devi aspettare la politica di divulgazione di nessuno. Alla domanda “cosa ha parlato con cosa, e quando?” si può rispondere dal tuo lato, mentre succede.
Sul tuo Mac non aspetti un’email
FireAI protegge i Mac, non i sistemi dei governi, e niente sul tuo Mac avrebbe potuto fermare un agente in esecuzione sui server di OpenAI. Ciò che cambia è il ritardo sulla tua macchina:
- Ogni connessione di ogni app compare mentre avviene, sulla mappa del mondo e nella cronologia delle attività, con l’app, la destinazione e il Paese che c’è dietro.
- Una nuova app che cerca di raggiungere internet può essere sottoposta a una tua domanda prima di connettersi, e la tua risposta diventa una regola.
- Le regole per app ti permettono di bloccare un’app, o un solo dominio con cui parla, nel momento in cui qualcosa non ti convince; l’interruttore di emergenza rifiuta ogni nuova connessione a internet con un clic.
- L’IA di FireAI funziona sul tuo Mac: l’analisi del tuo traffico non va mai a un servizio cloud, quindi non c’è alcun incidente sul server di qualcun altro che possa esporla.
Sempre questa settimana: i laboratori di IA vogliono autoregolarsi, e Trump e Xi hanno chiuso il vertice senza un accordo sull’IA.
Non scoprirlo mesi dopo. Scarica FireAI e guarda a cosa si connette oggi il tuo Mac; la prova è gratuita per 17 giorni. FireAI è realizzato da HisnLabs.