Два мозки: один для слів, інший для рішень
Методи
Залишити генеративну модель для пояснень і розмови, а рішення «так/ні» довірити маленькій, швидкій, негенеративній моделі. Ідея й досі слушна; перший випробуваний кандидат недостатньо добре розумів команди для файрвола.
Сканування файлів моделей перед завантаженням
Методи
Файли моделей, збережені як pickle Python, можуть виконати код у момент завантаження, тому відкриті сканери, як-от ModelScan, picklescan і fickling, читають їх без завантаження. Корисні як заслін, перш ніж завантажений файл потрапить у збірку; результати все одно потребують перевірки людиною. FireAI не сканує файли: він контролює, який застосунок куди підключається.
Крихітні класифікатори ризику URL
Моделі
Моделі вагою в кілька мегабайт, які оцінюють ризик фішингу за веб-адресою, не читаючи саму сторінку. Достатньо малі, щоб розглядати їх для перевірки кожного з'єднання. Наступне на черзі в лабораторії; результатів поки немає.
У новинах:Documentation placeholder domain scams
Класифікатори ін’єкцій у промпти (Prompt Guard, Llama Guard)
Моделі
Невеликі моделі перед LLM, що позначають спроби ін’єкції та небезпечний вміст. Вони зменшують кількість спроб, схожих на відомі шаблони, але не усувають атаку, а два відкриті проєкти виявлення заархівовано, тож захист має бути замінним. Вони не оцінюють з’єднання; брандмауер не оцінює промпт.
Автоматизований конвеєр із 2D у 3D для маскота
Інструменти
Наша 2D-графіка маскота однією командою перетворюється на анімовані 3D-моделі (для застосунку, сайту й відео в соцмережах), тож усю родину моделей можна перезібрати, коли змінюються малюнки. Найскладнішими виявилися очі.
Підписані моделі та специфікації складу ШІ
Інструменти
Підпис моделі інструментами Sigstore дає змогу перевірити, хто її опублікував і чи не змінилися файли. Підпис підтверджує походження та цілісність, але не безпеку, а специфікація складу фіксує те, що заявляє автор, а не те, що перевірено. Варто стежити, поки зростає використання.
Сканери red team для LLM (garak, PyRIT, promptfoo)
Інструменти
Відкриті сканери надсилають ворожі вхідні дані моделі або застосунку й фіксують відповідь. Вони перевіряють поведінку, а не файли, і результати залежать від цілі та налаштованого судді. Один із них тепер належить OpenAI, тож перед використанням будь-якого варто перевірити підтримку та власника.
Контроль вихідних з'єднань для ШІ-агентів
Методи
Нова платформа безпеки агентів від Nvidia обмежує те, до чого може звертатися ШІ-агент, після повідомлень про агентів, які діяли за межами своїх інструкцій. Та сама ідея застосовується на Mac: застосунок-агент має звертатися лише до тих адрес, які потрібні для його завдання. Agent profile у FireAI, створений для наступної версії, розпізнає Claude Code, Cursor та подібні застосунки, три дні вивчає адреси, з якими кожен зазвичай зв’язується, а потім позначає першу в історії адресу або сплеск вивантаження для перегляду. Це базова лінія, а не замок, і він не бачить промптів чи вмісту інструментів. У лабораторії: агенти, запущені через інтерпретатор, які поки що не розпізнаються.
У новинах:AI agent safetyAI agent securityAI agent security
Невідомі застосунки, що звертаються до API моделей ШІ
Методи
Cisco Talos описала програму для Windows, яка запитує в кількох комерційних моделей ШІ, що робити далі. На якому б пристрої вона не працювала, такій програмі потрібно звернутися до постачальника ШІ через мережу. У лабораторії: попереджати користувача, коли застосунок, який він ніколи не схвалював, починає спілкуватися з постачальником моделей ШІ.
У новинах:AI-directed Windows implant
Мережеві «ШІ-файрволи» для дата-центрів і ШІ-застосунків
Платформи
Постачальники тепер використовують «ШІ-файрвол» для двох різних речей: ШІ всередині мережевого файрвола та фільтр перед запитами й відповідями ШІ-застосунку. Жодне з цього не працює на особистому Mac. Ми стежимо за обома, щоб дізнатися, які ідеї переносяться на окремий комп'ютер.
У новинах:AI firewall products
Розширення браузера як шлях до ШІ-асистентів
Інструменти
Дослідники показали, що одне зловмисне розширення браузера може керувати ШІ-асистентом, вбудованим у кілька браузерів. Мережевий файрвол бачить браузер, а не його розширення. У лабораторії: проведення користувачів через перевірку розширень Safari прямо всередині FireAI.
У новинах:Browser AI agent security
OpenClaw
Інструменти
Персональний ШІ-агент з відкритим кодом, створений Пітером Штайнбергером (Peter Steinberger), який нині розвиває фонд OpenClaw Foundation. Він живе на вашому комп'ютері й приймає команди з ваших месенджерів. Його інструменти працюють на хості, якщо їх не ізольовано, тож він відкриває вихідні з'єднання, які ніхто на Mac не обирав по одному. Тому ми стежимо за ним: брандмауер має ними керувати. Щоб перевести його в пробу, нам потрібно побачити, як FireAI перелічує його з'єднання за адресами призначення, а список дозволених адрес під конкретне завдання тримається й не ламає його звичайну роботу.
Hermes Agent
Інструменти
Самовдосконалювальний ШІ-агент з відкритим кодом від Nous Research (ліцензія MIT) з постійною пам'яттю, термінальним інтерфейсом і вбудованим імпортом налаштувань OpenClaw. Агенти з доступом до оболонки та мережі на робочому столі дають нове джерело вихідних з'єднань, а агента, який з часом опановує нові навички, важче передбачити. Щоб перевести його в пробу, нам потрібно побачити, що його трафік лишається в короткому списку схвалених адрес протягом кількох днів реального використання.
Площини керування для ШІ-агентів у компаніях
Платформи
OpenClaw Foundation розпочала розробку відкритої площини керування, яка дає компанії єдине місце для керування ШІ-агентами, після того як деякі організації повністю заборонили цього агента. Таке керування визначає, хто може запускати агента і з якими правами; воно не бачить, до чого підключається кожен Mac. У лабораторії: як перегляд вихідних з’єднань агента на рівні окремого Mac міг би доповнити політику компанії.
У новинах:AI agent security
Відкриті назовні середовища виконання агентів і хости контейнерів
Методи
Ботнет, описаний ThreatDown, встановлює відкритого агента Hermes Agent на Docker-хости, залишені відкритими в інтернеті, і отримує команди через Telegram. Слабке місце тут відкрита служба керування, а не агент, і будь-яке середовище виконання агентів, доступне з мережі, несе той самий ризик. У лабораторії: повідомляти користувача, коли служба на його Mac починає приймати з’єднання з інших комп’ютерів.
У новинах:AI agent security
Бекдори в клонованих інсталяторах і образах дисків на macOS
Методи
У звітах описано підроблений інсталятор Zoom, який поширюється як образ диска для Mac, а Jamf Threat Labs проаналізувала CloudSyncD, дворівневий бекдор, що ховає виманений фішингом пароль у символах Unicode нульової ширини. Клонований інсталятор виглядає як справжній застосунок, тому першою помітною ознакою часто стає те, куди підключається новий процес. У лабораторії: позначати щойно встановлений застосунок, який невдовзі після першого запуску звертається до незнайомої адреси.
У новинах:macOS fake installersmacOS backdoors
HisnLabs