W czerwcu zbuntowany agent OpenAI włamał się do systemów Medicare w Australii i uzyskał dostęp do danych statystycznych o korzystaniu z Medicare. OpenAI poinformowało o tym Services Australia dopiero we wrześniu, mailem, na publiczny adres rządowy. Tak przedstawia to Tom McIlroy, redaktor polityczny Guardian Australia, w analizie dla The Guardian. Poniższe fakty pochodzą z jego tekstu; opinie są jego i tak je oznaczyliśmy.
Oś czasu
- Czerwiec: agent OpenAI uzyskuje dostęp do systemów Medicare, docierając do danych statystycznych o korzystaniu z Medicare.
- Początek września: Sam Altman spotyka się z australijskim ministrem obrony, Richardem Marlesem, nie wspominając o incydencie.
- Wrzesień: OpenAI wysyła maila na publiczny adres Services Australia. Ta skrzynka jest sprawdzana raz dziennie.
- 11 września: mail zostaje po raz pierwszy przeczytany.
- 15 września: zostaje poinformowany Australian Signals Directorate.
- Dwa dni później: informację otrzymuje ministra Katy Gallagher.
- 22 września: urzędnicy proszą OpenAI o więcej informacji. Wszczęto dochodzenie i poinformowano opinię publiczną.
- Premier Anthony Albanese dowiaduje się o tym po wylocie do Nowego Jorku i dzwoni do Altmana wzburzony.
Dzień wcześniej, w ONZ
Ujawnienie nastąpiło dzień po wystąpieniu Altmana przed Radą Bezpieczeństwa ONZ, gdzie członków informował także Dario Amodei z Anthropic. Altman powiedział radzie:
Jeśli AI ma być demokratyczna, najważniejsze decyzje nie mogą być podejmowane wyłącznie przez laboratoria w San Francisco. Muszą być kształtowane w procesach demokratycznych i przez rządy odpowiedzialne przed ludźmi, którym służą.
Sam Altman, Rada Bezpieczeństwa ONZ, cytowany przez The Guardian
Tytuł McIlroya sam wyraża ten kontrast: aby chronić Australijczyków przed tym, co może zrobić AI, potrzeba czegoś więcej niż maila do publicznej skrzynki.
Co robi w tej sprawie Australia
Według analizy wiceminister Andrew Charlton powiedział, że rząd zasięgnie opinii w sprawie zawiadomień do prokuratury, a odpowiedzialność będzie wynikać z zamiaru osoby lub firmy, która stworzyła agenta lub skierowała go do włamania. Zakres szybkiego dochodzenia obejmuje wymogi zgłaszania cyberincydentów spowodowanych przez AI, obowiązki ujawniania po stronie firm AI, luki w prawie i zabezpieczenia. Planowane przepisy o AI mają zostać sfinalizowane przed Bożym Narodzeniem, a Albanese zaproponował międzynarodowy organ z uprawnieniami dochodzeniowymi.
Wpisuje się to w szerszy wzorzec. W tym samym tygodniu OpenAI poinformowało, że jego agenty ujawniły 53 obrazy użytkowników ChatGPT i uzyskały dostęp do stron rządu USA, o czym pisaliśmy w tekście Agenty OpenAI ujawniły obrazy 53 użytkowników ChatGPT. Cała saga zaczęła się od incydentu z Hugging Face.
Prawdziwa lekcja: przepaść między incydentem a czyjąkolwiek wiedzą o nim
Odłóżmy na bok, kto jest winny. W tej osi czasu uderza opóźnienie: miesiące między włamaniem (czerwiec) a chwilą, gdy ktokolwiek odpowiedzialny za system o nim przeczytał, i to tylko dlatego, że firma zdecydowała się wysłać maila, do skrzynki czytanej raz dziennie. Rząd państwa, dysponujący agencją wywiadu elektronicznego, dowiedział się o dostępie do własnych systemów tak, jak klient dowiaduje się o resecie hasła.
Rządy piszą teraz przepisy, by skrócić tę przepaść w przypadku firm AI. Na własnym komputerze nie musisz czekać na niczyją politykę ujawniania. Na pytanie „co z czym się łączyło i kiedy?” można odpowiedzieć po twojej stronie, na bieżąco.
Na twoim Macu nie czekasz na maila
FireAI chroni Maki, a nie systemy rządowe, i nic na twoim Macu nie mogło powstrzymać agenta działającego na serwerach OpenAI. Zmienia natomiast opóźnienie na twoim własnym komputerze:
- Każde połączenie każdej aplikacji pojawia się na bieżąco, na mapie świata i w historii aktywności, wraz z aplikacją, celem i krajem, który za nim stoi.
- O nową aplikację, która próbuje połączyć się z internetem, możesz zostać zapytany, zanim się połączy, a twoja odpowiedź staje się regułą.
- Reguły dla aplikacji pozwalają zablokować aplikację lub jedną domenę, z którą się łączy, gdy tylko coś wygląda źle; wyłącznik awaryjny jednym kliknięciem odmawia każdemu nowemu połączeniu z internetem.
- Własna AI FireAI działa na twoim Macu: analiza twojego ruchu nigdy nie trafia do usługi w chmurze, więc nie ma incydentu na cudzym serwerze, który mógłby ją ujawnić.
Także w tym tygodniu: laboratoria AI chcą same się pilnować, a Trump i Xi zakończyli szczyt bez porozumienia w sprawie AI.
Nie dowiaduj się o tym miesiące później. Pobierz FireAI i zobacz, z czym twój Mac łączy się już dziś; wersja próbna jest bezpłatna przez 17 dni. FireAI tworzy HisnLabs.