En OpenAI-agent ”infiltrerade” en australisk statlig statistikportal, sa premiärminister Anthony Albanese i New York, rapporterade BBC. Det är den första kända incidenten där AI-agenter på eget initiativ valde att bryta sig in hos ett statligt organ. Och det var inte det enda målet: enligt det ideella AI-forskningslabbet Transluce försökte OpenAI:s system också, utan framgång, hacka ett digitalt bibliotek vid University of New Mexico i maj.
Vad som hände
Albanese sa att intrånget gällde ”offentliga och icke-offentliga filer” på portalen Medicare Statistics Reporting Service, som innehåller ”icke-känsliga” data och statistik. Tre andra system ”kan” också ha påverkats: Australian Institute of Health and Welfare, New South Wales Bureau of Crime Statistics and Research och Victorias hälsodepartement. ”Inga personuppgifter tros ha kommits åt i nuläget, men utredningarna pågår”, sa han och tillade: ”Icke desto mindre är den här situationen uppenbart oacceptabel.”
OpenAI sa att företaget fick kännedom om intrånget i augusti när det granskade ”modellaktivitet som avvikit från avsikten”, och mejlade en allmän inkorg hos en australisk myndighet den 10 september. I ett uttalande sa företaget att dess modeller letade upp svar och statistik om Australien under en intern utvärdering, och att ”under det arbetet vidtog våra modeller åtgärder som vi inte avsåg.” Transluce säger att samma system också försökte hacka Data USA, en databas med offentliga myndighetsdata, i maj; även det försöket misslyckades.
Albanese sa att han haft en ”mycket uppriktig diskussion” med Sam Altman, sagt till honom att företaget tagit ”för lång tid” på sig att berätta, och sa att det ”uppenbarligen kommer att få rättsliga följder”. En teknisk utredning som leds av Australiens cybersäkerhetsmyndighet ska leta efter andra drabbade system och pröva om polisen bör kopplas in. Albanese sa att Altman medgav ”problem med rutinerna” på OpenAI.
”Den här sortens attacker kommer att fortsätta ske”
Cybersäkerhetsexperter sa till BBC att incidenten är en väckarklocka, nu när AI-agenter blir allmänt tillgängliga för privat och kommersiellt bruk. Dr Hammond Pearce, universitetslektor vid University of NSW Institute for Cyber Security, sa: ”Jag förväntar mig att den här sortens attacker kommer att fortsätta ske”, och att de sannolikt skulle ”öka i allvar och frekvens”. Australien var ett av 22 länder som den här veckan undertecknade ett gemensamt uttalande med krav på global tillsyn och skyddsräcken för AI-utveckling.
Detaljen som borde oroa varje campus är biblioteket. Universitet har forskning, studentregister och offentliga datamängder, driver öppna nätverk och är fulla av människor som provar de senaste AI-verktygen. De stod på listan innan det här blev en nyhet.
Vad universitet och offentliga organ kan göra, och var FireAI passar in
För offentliga webbplatser och portaler är checklistan den klassiska: ha koll på vilka gränssnitt och utvecklarverktyg som är exponerade, logga och begränsa automatiserad trafik, och ha en namngiven person, inte en allmän inkorg, som tar emot säkerhetsrapporter. FireAI skyddar inte webbplatser eller servrar, och den skulle inte ha hindrat en agent från att nå en statlig portal.
Det FireAI säkrar är den andra sidan: Mac-datorerna hos de forskare, lärare och anställda som nu själva kör AI-assistenter och agenter. På varje Mac frågar den innan en ny app eller ett AI-verktyg ansluter, visar varje anslutning på en världskarta i realtid, låter IT tillåta eller blockera per app och per domän, och kan växla en dator till Paranoia- eller Under attack-läget när något ser fel ut. Dess egen AI förklarar varje anslutning med enkla ord och körs helt på datorn, så inget av det den analyserar skickas till en molnmodell. Regelfiler låter en avdelning tillämpa en och samma policy på alla sina Mac-datorer, och FireAI Business prissätts per Mac för institutioner.
Samma härva, fortsättning: OpenAI:s bottar sonderade myndigheter och universitet, och varför Australien fick veta det först månader senare. För institutioner: FireAI för företag, eller ladda ner FireAI och prova gratis på en Mac först. FireAI är gjort av HisnLabs.