Två hjärnor: en för ord, en för beslut
Tekniker
Behåll en generativ modell för att förklara och prata, och låt en liten, snabb, icke-generativ modell fatta ja/nej-beslut. Idén håller fortfarande; den första kandidaten vi provade förstod inte brandväggskommandon tillräckligt bra.
Skanna modellfiler innan de laddas
Tekniker
Modellfiler sparade som Python-pickle kan köra kod i samma stund de laddas, så öppna skannrar som ModelScan, picklescan och fickling läser dem utan att ladda dem. Användbart som spärr innan en nedladdning hamnar i ett bygge; fynd kräver fortfarande mänsklig granskning. FireAI skannar inte filer: den styr vilken app som ansluter vart.
Mycket små URL-riskklassificerare
Modeller
Modeller på några få megabyte som bedömer phishing-risken för en webbadress utan att läsa sidan. Tillräckligt små för att övervägas för kontroller per anslutning. Näst på tur i labbet; inga resultat än.
I nyheterna:Documentation placeholder domain scams
Klassificerare för prompt injection (Prompt Guard, Llama Guard)
Modeller
Små modeller framför en LLM som flaggar injektionsförsök och osäkert innehåll. De minskar försök som matchar kända mönster utan att ta bort attacken, och två öppna detektionsprojekt har arkiverats, så ett skydd bör gå att byta ut. De kan inte bedöma en anslutning; en brandvägg kan inte bedöma en prompt.
Skriptad 2D-till-3D-maskotpipeline
Verktyg
Vår 2D-maskotkonst blir till animerade 3D-modeller (för appen, webben och sociala videor) med ett enda kommando, så att hela familjen kan byggas om när konsten ändras. Ögonen var den svåra delen.
Signerade modeller och AI-materiallistor
Verktyg
Att signera en modell med Sigstore-verktyg gör att man kan kontrollera vem som publicerade den och att filerna inte ändrats. En signatur bevisar ursprung och integritet, inte säkerhet, och en materiallista anger vad upphovspersonen uppger, inte vad som verifierats. Värt att följa när användningen växer.
Red team-skannrar för LLM (garak, PyRIT, promptfoo)
Verktyg
Öppna skannrar skickar fientliga indata till en modell eller en app och noterar svaret. De testar beteende, inte filer, och resultaten beror på målet och på den konfigurerade bedömaren. Ett av verktygen är nu en del av OpenAI, så underhåll och ägande bör kontrolleras innan man förlitar sig på något av dem.
Utgående kontroll för AI-agenter
Tekniker
Nvidias nya säkerhetsplattform för agenter begränsar vad en AI-agent får nå, efter att agenter rapporterats agera utanför sina instruktioner. Samma idé gäller på en Mac: en agent-app bör bara nå de mål som dess uppgift kräver. FireAI:s Agent profile, byggd för nästa version, känner igen Claude Code, Cursor och liknande appar, lär sig under tre dagar vilka mål var och en normalt kontaktar och flaggar sedan ett helt nytt mål eller en uppladdningstopp för granskning. Det är en baslinje, inte ett lås, och den kan inte se prompter eller verktygsinnehåll. I labbet: agenter som startas via en tolk, som ännu inte känns igen.
I nyheterna:AI agent safetyAI agent securityAI agent security
Okända appar som anropar AI-modell-API:er
Tekniker
Cisco Talos beskrev ett Windows-program som frågar flera kommersiella AI-modeller vad det ska göra härnäst. Oavsett vad det körs på måste ett sådant program nå en AI-leverantör via nätverket. I labbet: meddela användaren när en app de aldrig godkänt börjar prata med en AI-modell-leverantör.
I nyheterna:AI-directed Windows implant
Nätverks-"AI-brandväggar" för datacenter och AI-appar
Plattformar
Leverantörer använder nu "AI-brandvägg" för två olika saker: AI inuti en nätverksbrandvägg, och ett filter framför en AI-applikations promptar och svar. Ingetdera körs på en privat Mac. Vi följer båda för att lära oss vilka idéer som går att överföra till en enskild dator.
I nyheterna:AI firewall products
Webbläsartillägg som väg in till AI-assistenter
Verktyg
Forskare visade att ett enda skadligt webbläsartillägg kan styra AI-assistenten som är inbyggd i flera webbläsare. En nätverksbrandvägg ser webbläsaren, inte dess tillägg. I labbet: vägleda användare genom en genomgång av Safari-tillägg direkt i FireAI.
I nyheterna:Browser AI agent security
OpenClaw
Verktyg
Personlig AI-agent med öppen källkod, skapad av Peter Steinberger och numera driven av OpenClaw Foundation, som lever på din egen dator och tar order från dina chattappar. Dess verktyg körs på värden om de inte isoleras, så den öppnar utgående anslutningar som ingen på Macen valt en och en. Därför följer vi den: en brandvägg måste styra dem. För att flytta den till prov skulle vi behöva se FireAI lista dess anslutningar per mål, och en uppgiftsbunden tillåtelselista hålla utan att störa dess vanliga arbete.
Hermes Agent
Verktyg
Självförbättrande AI-agent med öppen källkod från Nous Research (MIT-licens) med bestående minne, ett terminalgränssnitt och en inbyggd import för OpenClaw-inställningar. Agenter med skal- och nätverksåtkomst på skrivbordet är en ny källa till utgående anslutningar, och en som lär sig nya färdigheter över tid är svårare att förutse. För att flytta den till prov skulle vi behöva se dess trafik hålla sig inom en kort lista godkända mål under flera dagars verklig användning.
Kontrollplan för AI-agenter i företag
Plattformar
OpenClaw Foundation har påbörjat ett öppet kontrollplan som ger ett företag en enda plats att styra sina AI-agenter från, efter att vissa verksamheter förbjudit agenten helt. Den här typen av styrning avgör vem som får köra en agent och med vilka behörigheter; den ser inte vad varje enskild Mac ansluter till. I labbet: hur en vy per Mac över en agents utgående anslutningar skulle kunna komplettera företagets policy.
I nyheterna:AI agent security
Exponerade körmiljöer för agenter och containervärdar
Tekniker
Ett botnät som ThreatDown beskrivit installerar den öppna agenten Hermes Agent på Docker-värdar som lämnats öppna mot internet och tar emot sina order via Telegram. Den svaga punkten är den exponerade hanteringstjänsten, inte agenten, och varje körmiljö för agenter som går att nå från nätverket har samma risk. I labbet: att varna användaren när en tjänst på Macen börjar ta emot anslutningar från andra datorer.
I nyheterna:AI agent security
Bakdörrar i klonade installationsprogram och diskavbildningar på macOS
Tekniker
Rapporter beskriver ett falskt Zoom-installationsprogram som levereras som diskavbildning till Mac-datorer, och Jamf Threat Labs analyserade CloudSyncD, en bakdörr i två steg som gömmer ett nätfiskat lösenord i Unicode-tecken utan bredd. Ett klonat installationsprogram ser ut som den riktiga appen, så det första synliga tecknet är ofta vart den nya processen ansluter. I labbet: att flagga en nyinstallerad app som kontaktar ett okänt mål kort efter första start.
I nyheterna:macOS fake installersmacOS backdoors
HisnLabs