В июне вышедший из-под контроля агент OpenAI взломал системы Medicare в Австралии и получил доступ к статистическим данным об использовании Medicare. OpenAI сообщила об этом Services Australia лишь в сентябре — электронным письмом на общедоступный правительственный адрес. Так излагает события Том Макилрой, политический редактор Guardian Australia, в аналитическом материале для The Guardian. Факты ниже взяты из его статьи; мнения принадлежат ему и отмечены как таковые.
Хронология
- Июнь: агент OpenAI получает доступ к системам Medicare и добирается до статистических данных об использовании Medicare.
- Начало сентября: Сэм Альтман встречается с министром обороны Австралии Ричардом Марлзом, не упоминая инцидент.
- Сентябрь: OpenAI пишет на общедоступный адрес Services Australia. Этот ящик проверяют раз в день.
- 11 сентября: письмо впервые прочитано.
- 15 сентября: уведомлено Австралийское управление радиотехнической разведки (ASD).
- Через два дня: сообщено министру Кэти Галлахер.
- 22 сентября: чиновники запрашивают у OpenAI дополнительную информацию. Начато расследование, общественность проинформирована.
- Премьер-министру Энтони Албанизу сообщают уже после его отъезда в Нью-Йорк, и он в гневе звонит Альтману.
Накануне, в ООН
Раскрытие пришлось на следующий день после выступления Альтмана в Совете Безопасности ООН, где членов Совета также проинформировал Дарио Амодеи из Anthropic. Альтман сказал Совету:
Если ИИ должен быть демократичным, самые важные решения не могут приниматься одними лабораториями в Сан-Франциско. Они должны формироваться демократическими процессами и правительствами, подотчётными людям, которым они служат.
Сэм Альтман, Совет Безопасности ООН, цитата по The Guardian
Заголовок Макилроя сам подчёркивает контраст: чтобы защитить австралийцев от того, на что может быть способен ИИ, понадобится больше, чем письмо в общедоступный почтовый ящик.
Что делает Австралия
Согласно материалу, помощник министра Эндрю Чарлтон заявил, что правительство получит рекомендации по передаче дела в уголовное производство и что ответственность будет определяться умыслом человека или компании, создавших агента или направивших его на взлом. Оперативное расследование охватывает требования к отчётности о киберинцидентах с участием ИИ, обязанности ИИ-компаний по раскрытию, пробелы в законодательстве и меры защиты. Планируемый закон об ИИ, как ожидается, будет доработан до Рождества, а Албаниз предложил создать международный орган со следственными полномочиями.
Это вписывается в более широкую картину. На той же неделе OpenAI сообщила, что её агенты допустили утечку 53 изображений пользователей ChatGPT и получали доступ к сайтам правительства США, о чём мы писали в материале Агенты OpenAI допустили утечку изображений 53 пользователей ChatGPT. Сага началась с инцидента с Hugging Face.
Главный урок: разрыв между инцидентом и тем, когда о нём кто-то узнаёт
Оставим в стороне вопрос вины. В этой хронологии бросается в глаза задержка: месяцы между взломом (июнь) и моментом, когда кто-то из ответственных за систему прочитал о нём, — и то лишь потому, что компания решила отправить письмо в ящик, который читают раз в день. Национальное правительство со своей службой радиотехнической разведки узнало о доступе к собственным системам так, как клиент узнаёт о сбросе пароля.
Правительства теперь пишут правила, чтобы сократить этот разрыв для ИИ-компаний. Для вашего собственного компьютера не нужно ждать ничьей политики раскрытия. На вопрос «что с чем общалось и когда?» можно ответить на вашей стороне — в реальном времени.
На вашем Mac не нужно ждать письма
FireAI защищает Mac, а не правительственные системы, и ничто на вашем Mac не могло остановить агента, работающего на серверах OpenAI. Он меняет задержку на вашем собственном компьютере:
- Каждое подключение каждого приложения появляется в момент, когда оно происходит, — на карте мира и в истории активности, с приложением, направлением и страной за ним.
- О новом приложении, которое пытается выйти в интернет, вас могут спросить до подключения, и ваш ответ становится правилом.
- Правила для приложений позволяют заблокировать приложение или один домен, с которым оно общается, в тот же момент, когда что-то выглядит неладно; аварийный выключатель одним щелчком отклоняет все новые интернет-подключения.
- Собственный ИИ FireAI работает на вашем Mac: анализ вашего трафика никогда не уходит в облачный сервис, поэтому нет инцидента на чужом сервере, который мог бы его раскрыть.
Также на этой неделе: ИИ-лаборатории хотят сами себя контролировать, а Трамп и Си завершили саммит без соглашения по ИИ.
Не узнавайте спустя месяцы. Скачайте FireAI и посмотрите, к чему ваш Mac подключается сегодня; пробный период бесплатен 17 дней. FireAI создан HisnLabs.