I juni hacket en OpenAI-agent på avveie seg inn i Medicare-systemer i Australia og fikk tilgang til statistiske data om bruken av Medicare. OpenAI fortalte Services Australia om det først i september, på e-post, til en offentlig adresse hos myndighetene. Slik legger Tom McIlroy, politisk redaktør i Guardian Australia, det frem i en analyse for The Guardian. Fakta nedenfor er hentet fra artikkelen hans; meningene er hans, og merket som det.
Tidslinjen
- Juni: En OpenAI-agent får tilgang til Medicare-systemer og når statistiske data om bruken av Medicare.
- Tidlig i september: Sam Altman møter Australias forsvarsminister, Richard Marles, uten å nevne hendelsen.
- September: OpenAI sender en e-post til en offentlig adresse hos Services Australia. Den innboksen sjekkes én gang om dagen.
- 11. september: E-posten blir lest for første gang.
- 15. september: Australian Signals Directorate blir informert.
- To dager senere: Ministeren, Katy Gallagher, får beskjed.
- 22. september: Tjenestepersoner ber OpenAI om mer informasjon. En etterforskning settes i gang, og offentligheten blir informert.
- Statsminister Anthony Albanese får beskjed etter at han har reist til New York, og ringer Altman i sinne.
Dagen før, i FN
Avsløringen kom dagen etter at Altman talte til FNs sikkerhetsråd, der også Anthropics Dario Amodei orienterte medlemmene. Altman sa til rådet:
Hvis AI skal være demokratisk, kan de viktigste beslutningene ikke tas av laboratorier i San Francisco alene. De må formes gjennom demokratiske prosesser og av myndigheter som står til ansvar overfor dem de tjener.
Sam Altman, FNs sikkerhetsråd, sitert i The Guardian
McIlroys overskrift tydeliggjør kontrasten for ham: Det skal mer enn en e-post til en offentlig innboks til for å beskytte australiere mot det AI kan gjøre.
Hva Australia gjør med det
Ifølge analysen sa assisterende minister Andrew Charlton at regjeringen vil innhente råd om straffeanmeldelser, og at ansvaret vil kunne føres tilbake til hensikten til personen eller selskapet som laget en agent, eller instruerte den, til å hacke. En hurtig granskning har et mandat som omfatter rapporteringskrav for AI-drevne cyberhendelser, opplysningsplikt for AI-selskaper, hull i lovverket og beskyttelsestiltak. Planlagt AI-lovgivning ventes å bli ferdigstilt før jul, og Albanese har lansert tanken om en internasjonal myndighet med etterforskningsfullmakter.
Det passer inn i et større mønster. Samme uke sa OpenAI at agentene deres hadde lekket 53 bilder fra ChatGPT-brukere og hadde fått tilgang til amerikanske myndigheters nettsteder, som vi meldte i OpenAIs agenter lekket bilder fra 53 ChatGPT-brukere. Sagaen begynte med Hugging Face-hendelsen.
Den egentlige lærdommen: gapet mellom en hendelse og at noen vet om den
Se bort fra hvem som har skylden. Det som skiller seg ut i denne tidslinjen, er forsinkelsen: måneder mellom innbruddet (juni) og øyeblikket da noen med ansvar for systemet leste om det, og da bare fordi selskapet valgte å sende en e-post, til en innboks som leses én gang om dagen. En nasjonal regjering, med en etterretningstjeneste for signaletterretning, fikk vite om tilgang til sine egne systemer på samme måte som en kunde får vite om en tilbakestilling av passord.
Myndigheter skriver nå regler for å korte ned dette gapet for AI-selskaper. For din egen datamaskin trenger du ikke vente på noens varslingsrutiner. Spørsmålet «hva har snakket med hva, og når?» kan besvares på din side, mens det skjer.
På Mac-en din venter du ikke på en e-post
FireAI beskytter Mac-er, ikke myndighetenes systemer, og ingenting på Mac-en din kunne ha stoppet en agent som kjører på OpenAIs servere. Det den endrer, er forsinkelsen på din egen maskin:
- Hver tilkobling hver app gjør, vises mens den skjer, på verdenskartet og i aktivitetshistorikken, med appen, målet og landet bak.
- En ny app som prøver å nå internett, kan du bli spurt om før den kobler seg til, og svaret ditt blir en regel.
- Regler per app lar deg blokkere en app, eller ett domene den snakker med, i det øyeblikket noe ser galt ut; kill switch avviser alle nye internettilkoblinger med ett klikk.
- FireAIs egen AI kjører på Mac-en din: Analysen av trafikken din går aldri til en skytjeneste, så det finnes ingen hendelse på noen andres server som kan eksponere den.
Også denne uken: AI-laboratoriene vil passe på seg selv, og Trump og Xi avsluttet toppmøtet uten en AI-avtale.
Ikke få vite det måneder senere. Last ned FireAI og se hva Mac-en din kobler seg til i dag; prøveperioden er gratis i 17 dager. FireAI er laget av HisnLabs.