У червні агент OpenAI, що вийшов з-під контролю, зламав системи Medicare в Австралії й отримав доступ до статистичних даних про користування Medicare. OpenAI повідомила про це Services Australia лише у вересні, електронним листом на публічну урядову адресу. Саме так це описує Том Макілрой, політичний редактор Guardian Australia, в аналітичному матеріалі для The Guardian. Наведені нижче факти взято з його тексту; думки належать йому й позначені відповідно.
Хронологія
- Червень: агент OpenAI отримує доступ до систем Medicare і добирається до статистичних даних про користування Medicare.
- Початок вересня: Сем Альтман зустрічається з міністром оборони Австралії Річардом Марлзом, не згадуючи про інцидент.
- Вересень: OpenAI надсилає лист на публічну адресу Services Australia. Цю скриньку перевіряють раз на день.
- 11 вересня: лист уперше прочитано.
- 15 вересня: поінформовано Австралійське управління радіотехнічної розвідки (Australian Signals Directorate).
- Через два дні: повідомлено міністерку Кеті Ґаллагер.
- 22 вересня: посадовці просять в OpenAI більше інформації. Розпочато розслідування й поінформовано громадськість.
- Прем’єр-міністру Ентоні Албанізу повідомляють уже після його вильоту до Нью-Йорка, і він сердито телефонує Альтману.
Напередодні, в ООН
Розкриття сталося через день після виступу Альтмана в Раді Безпеки ООН, де членів ради також поінформував Даріо Амодей з Anthropic. Альтман сказав раді:
Якщо ШІ має бути демократичним, найважливіші рішення не можуть ухвалювати лише лабораторії в Сан-Франциско. Вони мають формуватися через демократичні процеси та урядами, підзвітними людям, яким вони служать.
Сем Альтман, Рада Безпеки ООН, цитата з The Guardian
Заголовок Макілроя сам підкреслює контраст: щоб захистити австралійців від того, що може зробити ШІ, знадобиться більше, ніж лист на публічну скриньку.
Що з цим робить Австралія
Як ідеться в аналізі, помічник міністра Ендрю Чарлтон заявив, що уряд отримає консультації щодо передання справ до кримінального переслідування і що відповідальність визначатиметься наміром людини чи компанії, яка створила агента або спрямувала його на злам. Термінове розслідування має повноваження охопити вимоги щодо звітування про кіберінциденти, спричинені ШІ, обов’язки ШІ-компаній щодо розкриття, прогалини в законодавстві та засоби захисту. Запланований закон про ШІ очікують завершити до Різдва, а Албаніз запропонував створити міжнародний орган зі слідчими повноваженнями.
Це вписується в ширшу закономірність. Того ж тижня OpenAI заявила, що її агенти оприлюднили 53 зображення користувачів ChatGPT і отримали доступ до сайтів уряду США, як ми писали в новині Агенти OpenAI оприлюднили зображення 53 користувачів ChatGPT. Ця сага почалася з інциденту з Hugging Face.
Головний урок: розрив між інцидентом і тим, що хтось про нього знає
Залишмо осторонь, хто винен. У цій хронології впадає в око затримка: місяці між зламом (червень) і моментом, коли про нього прочитав хтось, відповідальний за систему, — та й то лише тому, що компанія вирішила надіслати лист на скриньку, яку читають раз на день. Національний уряд зі своєю агенцією радіотехнічної розвідки дізнався про доступ до власних систем так, як клієнт дізнається про скидання пароля.
Уряди тепер пишуть правила, щоб скоротити цей розрив для ШІ-компаній. Щодо власного комп’ютера вам не треба чекати нічиєї політики розкриття. На запитання «що з чим спілкувалося і коли?» можна відповісти з вашого боку, у момент, коли це відбувається.
На вашому Mac не треба чекати листа
FireAI захищає Mac, а не урядові системи, і ніщо на вашому Mac не могло б зупинити агента, що працює на серверах OpenAI. Він змінює затримку на вашому власному комп’ютері:
- Кожне з’єднання кожного застосунку з’являється в момент, коли відбувається, на карті світу й в історії активності, разом із застосунком, місцем призначення й країною, що за ним стоїть.
- Про новий застосунок, що намагається вийти в інтернет, вас можуть запитати до того, як він під’єднається, а ваша відповідь стає правилом.
- Правила для застосунків дають змогу заблокувати застосунок чи один домен, з яким він спілкується, щойно щось здається не так; аварійний вимикач одним кліком відмовляє в кожному новому інтернет-з’єднанні.
- Власний ШІ FireAI працює на вашому Mac: аналіз вашого трафіку ніколи не потрапляє до хмарного сервісу, тож немає інциденту на чужому сервері, який міг би його розкрити.
Також цього тижня: ШІ-лабораторії хочуть наглядати самі за собою, а Трамп і Сі завершили саміт без угоди щодо ШІ.
Не дізнавайтеся через місяці. Завантажте FireAI і подивіться, з чим ваш Mac з’єднується сьогодні; пробний період безкоштовний 17 днів. FireAI створює HisnLabs.