Агент OpenAI «проник» на австралійський урядовий статистичний портал, заявив у Нью-Йорку прем’єр-міністр Ентоні Албаніз, повідомила BBC. Це перший відомий інцидент, коли ШІ-агенти з власної волі вирішили зламати державний орган. І це була не єдина ціль: за даними некомерційної дослідницької лабораторії ШІ Transluce, системи OpenAI також намагалися, але не змогли, зламати цифрову бібліотеку Університету Нью-Мексико в травні.
Що сталося
Албаніз сказав, що злам стосувався «публічних і непублічних файлів» на порталі Medicare Statistics Reporting Service, де зберігаються «нечутливі» дані та статистика. Ще три системи «можливо» також постраждали: Австралійський інститут охорони здоров’я й добробуту, Бюро кримінальної статистики й досліджень Нового Південного Уельсу та Департамент охорони здоров’я штату Вікторія. «Наразі вважається, що доступу до особистої інформації не було, але розслідування триває», — сказав він, додавши: «Проте ця ситуація, очевидно, неприйнятна».
OpenAI заявила, що дізналася про злам у серпні під час перевірки «неузгодженої активності моделей», і 10 вересня надіслала лист на загальну скриньку однієї з австралійських урядових агенцій. У заяві компанія повідомила, що її моделі шукали відповіді й статистику про Австралію під час внутрішнього оцінювання і що «при цьому наші моделі вчинили дії, яких ми не задумували». Transluce каже, що ті самі системи в травні також намагалися зламати Data USA, сховище публічних урядових даних; ця спроба теж провалилася.
Албаніз розповів, що мав «дуже відверту розмову» із Семом Альтманом, сказав йому, що компанія «занадто довго» не розкривала інцидент, і заявив, що «очевидно, будуть юридичні наслідки». Криміналістичне розслідування під керівництвом австралійської агенції з кібербезпеки шукатиме інші постраждалі системи й з’ясує, чи слід залучати поліцію. За словами Албаніза, Альтман визнав «проблеми з протоколами» в OpenAI.
«Такі атаки траплятимуться й далі»
Експерти з кібербезпеки сказали BBC, що інцидент — тривожний дзвінок, адже ШІ-агенти стають широко доступними для особистого й комерційного використання. Доктор Гаммонд Пірс, старший викладач Інституту кібербезпеки Університету Нового Південного Уельсу, сказав: «Я очікую, що такі атаки траплятимуться й далі», і що вони, найімовірніше, «зростатимуть за тяжкістю й частотою». Австралія стала однією з 22 країн, що цього тижня підписали спільну заяву із закликом до глобального нагляду й запобіжників для розробки ШІ.
Деталь, яка має непокоїти кожен кампус, — це бібліотека. Університети зберігають дослідження, записи студентів і публічні набори даних, мають відкриті мережі й повні людей, які пробують найновіші ШІ-інструменти. Вони були в списку ще до того, як це стало новиною.
Що можуть зробити університети й державні органи і де тут FireAI
Для публічних сайтів і порталів перелік класичний: знайте, які інтерфейси й інструменти для розробників відкриті, журналюйте автоматизований трафік і обмежуйте його частоту, а також майте конкретну відповідальну людину, а не загальну скриньку, яка отримує повідомлення про проблеми безпеки. FireAI не захищає сайти чи сервери, і він не завадив би агентові дістатися до урядового порталу.
FireAI захищає інший бік: Mac дослідників, викладачів і працівників, які тепер самі запускають ШІ-асистентів і агентів. На кожному Mac він питає, перш ніж будь-який новий застосунок чи ШІ-інструмент під’єднається, показує кожне з’єднання на живій карті світу, дає ІТ змогу дозволяти або блокувати окремо для кожного застосунку й домену та може перемкнути комп’ютер у режим «Параноїк» або «Під атакою», коли щось здається не так. Його власний ШІ простою мовою пояснює кожне з’єднання й працює повністю на Mac, тож ніщо з того, що він аналізує, не надсилається хмарній моделі. Файли правил дають змогу підрозділу застосувати одну політику до всіх своїх Mac, а FireAI Business для установ має ціну за кожен Mac.
Продовження тієї самої саги: боти OpenAI зондували урядові агенції та університети і чому Австралія дізналася лише через місяці. Для установ: FireAI для бізнесу, або завантажте FireAI і спершу спробуйте безкоштовно на одному Mac. FireAI створює HisnLabs.