Dwa mózgi: jeden do słów, drugi do decyzji
Techniki
Zachować model generatywny do wyjaśniania i rozmowy, a decyzje tak/nie powierzyć małemu, szybkiemu, negeneratywnemu modelowi. Ten pomysł nadal się broni; pierwszy testowany kandydat nie rozumiał poleceń zapory sieciowej wystarczająco dobrze.
Skanowanie plików modeli przed ich wczytaniem
Techniki
Pliki modeli zapisane jako pickle Pythona mogą uruchomić kod w chwili wczytania, dlatego otwarte skanery, takie jak ModelScan, picklescan i fickling, odczytują je bez wczytywania. Przydatne jako bramka, zanim pobrany plik trafi do buildu; wyniki nadal wymagają przeglądu przez człowieka. FireAI nie skanuje plików: kontroluje, która aplikacja łączy się dokąd.
Maleńkie klasyfikatory ryzyka adresów URL
Modele
Modele wielkości kilku megabajtów, które oceniają ryzyko phishingu dla adresu internetowego bez czytania strony. Wystarczająco małe, by rozważyć sprawdzanie każdego połączenia. Kolejne w kolejce do testów; jeszcze bez wyników.
W wiadomościach:Documentation placeholder domain scams
Klasyfikatory prompt injection (Prompt Guard, Llama Guard)
Modele
Małe modele umieszczone przed LLM, które oznaczają próby wstrzyknięcia i niebezpieczne treści. Ograniczają próby pasujące do znanych wzorców, nie usuwając ataku, a dwa otwarte projekty detekcji zostały zarchiwizowane, więc zabezpieczenie powinno dać się wymienić. Nie ocenią połączenia; zapora sieciowa nie oceni promptu.
Zautomatyzowany proces zamiany maskotki 2D na 3D
Narzędzia
Nasza grafika maskotki 2D zamienia się w animowane modele 3D (do aplikacji, strony internetowej i wideo w mediach społecznościowych) za pomocą jednego polecenia, dzięki czemu całą rodzinę można odbudować, gdy zmienia się grafika. Oczy były najtrudniejszą częścią.
Podpisane modele i zestawienia materiałowe AI
Narzędzia
Podpisanie modelu narzędziami Sigstore pozwala sprawdzić, kto go opublikował i czy pliki się nie zmieniły. Podpis dowodzi pochodzenia i integralności, nie bezpieczeństwa, a zestawienie materiałowe zapisuje to, co deklaruje autor, nie to, co zweryfikowano. Warto obserwować, w miarę jak rośnie zastosowanie.
Skanery red team dla LLM (garak, PyRIT, promptfoo)
Narzędzia
Otwarte skanery wysyłają wrogie dane wejściowe do modelu lub aplikacji i zapisują odpowiedź. Testują zachowanie, nie pliki, a wyniki zależą od celu i skonfigurowanego sędziego. Jedno z narzędzi jest teraz częścią OpenAI, więc przed zaufaniem któremukolwiek warto sprawdzić utrzymanie i własność.
Kontrola ruchu wychodzącego dla agentów AI
Techniki
Nowa platforma bezpieczeństwa dla agentów od Nvidii ogranicza to, do czego może dotrzeć agent AI, po doniesieniach o agentach działających poza swoimi instrukcjami. Ta sama zasada obowiązuje na Macu: aplikacja agenta powinna docierać tylko do celów potrzebnych jej zadaniu. Agent profile w FireAI, przygotowany na następną wersję, rozpoznaje Claude Code, Cursor i podobne aplikacje, przez trzy dni uczy się celów, z którymi każda zwykle się łączy, a potem oznacza do sprawdzenia cel, z którym agent łączy się po raz pierwszy, oraz skok wysyłania danych. To profil bazowy, a nie zamek, i nie widzi promptów ani zawartości narzędzi. W laboratorium: agenci uruchamiani przez interpreter, którzy nie są jeszcze rozpoznawani.
W wiadomościach:AI agent safetyAI agent securityAI agent security
Nieznane aplikacje wywołujące API modeli AI
Techniki
Cisco Talos opisało program dla Windows, który pyta kilka komercyjnych modeli AI, co robić dalej. Niezależnie od tego, na czym działa, taki program musi dotrzeć do dostawcy AI przez sieć. W laboratorium: informowanie użytkownika, gdy aplikacja, której nigdy nie zatwierdził, zaczyna komunikować się z dostawcą modeli AI.
W wiadomościach:AI-directed Windows implant
Sieciowe "zapory AI" dla centrów danych i aplikacji AI
Platformy
Dostawcy używają teraz "zapory AI" na określenie dwóch różnych rzeczy: AI wewnątrz zapory sieciowej oraz filtra przed promptami i odpowiedziami aplikacji AI. Żadne z nich nie działa na prywatnym Macu. Śledzimy oba, aby dowiedzieć się, które pomysły przenoszą się na pojedynczy komputer.
W wiadomościach:AI firewall products
Rozszerzenia przeglądarki jako droga do asystentów AI
Narzędzia
Badacze pokazali, że jedno złośliwe rozszerzenie przeglądarki może sterować asystentem AI wbudowanym w kilka przeglądarek. Zapora sieciowa widzi przeglądarkę, nie jej rozszerzenia. W laboratorium: prowadzenie użytkowników przez przegląd rozszerzeń Safari z poziomu FireAI.
W wiadomościach:Browser AI agent security
OpenClaw
Narzędzia
Osobisty agent AI o otwartym kodzie, stworzony przez Petera Steinbergera, a obecnie prowadzony przez OpenClaw Foundation, który działa na twoim komputerze i przyjmuje polecenia z twoich komunikatorów. Jego narzędzia działają na hoście, o ile nie są odizolowane, więc otwiera połączenia wychodzące, których nikt na Macu nie wybierał pojedynczo. Dlatego go obserwujemy: zapora musi nimi zarządzać. Aby przenieść go do prób, musielibyśmy zobaczyć, jak FireAI wymienia jego połączenia według miejsca docelowego, a lista dozwolonych adresów dla danego zadania działa bez psucia jego zwykłej pracy.
Hermes Agent
Narzędzia
Samodoskonalący się agent AI o otwartym kodzie od Nous Research (licencja MIT) z trwałą pamięcią, interfejsem terminala i wbudowanym importerem konfiguracji OpenClaw. Agenci z dostępem do powłoki i sieci na pulpicie to nowe źródło połączeń wychodzących, a taki, który z czasem uczy się nowych umiejętności, jest trudniejszy do przewidzenia. Aby przenieść go do prób, musielibyśmy zobaczyć, że jego ruch przez kilka dni realnego użytkowania mieści się na krótkiej liście zatwierdzonych adresów.
Płaszczyzny kontroli dla agentów AI w firmach
Platformy
OpenClaw Foundation rozpoczęła prace nad otwartą płaszczyzną kontroli, która daje firmie jedno miejsce do zarządzania agentami AI, po tym jak niektóre przedsiębiorstwa całkowicie zakazały tego agenta. Taki nadzór określa, kto może uruchomić agenta i z jakimi uprawnieniami; nie widzi, z czym łączy się każdy Mac. W laboratorium: jak widok połączeń wychodzących agenta na poziomie pojedynczego Maca mógłby uzupełnić politykę firmy.
W wiadomościach:AI agent security
Wystawione na zewnątrz środowiska agentów i hosty kontenerów
Techniki
Botnet opisany przez ThreatDown instaluje otwartego agenta Hermes Agent na hostach Docker pozostawionych otwartych w internecie i przyjmuje polecenia przez Telegram. Słabym punktem jest wystawiona usługa zarządzania, a nie agent, a każde środowisko agenta dostępne z sieci niesie to samo ryzyko. W laboratorium: informowanie użytkownika, gdy usługa na jego Macu zaczyna przyjmować połączenia z innych komputerów.
W wiadomościach:AI agent security
Backdoory w sklonowanych instalatorach i obrazach dysków na macOS
Techniki
Raporty opisują fałszywy instalator Zoom dostarczany jako obraz dysku na komputery Mac, a Jamf Threat Labs przeanalizowało CloudSyncD, dwuetapowego backdoora, który ukrywa wyłudzone hasło w znakach Unicode o zerowej szerokości. Sklonowany instalator wygląda jak prawdziwa aplikacja, więc pierwszym widocznym sygnałem bywa to, z czym łączy się nowy proces. W laboratorium: oznaczanie świeżo zainstalowanej aplikacji, która wkrótce po pierwszym uruchomieniu łączy się z nieznanym adresem.
W wiadomościach:macOS fake installersmacOS backdoors
HisnLabs