To hjerner: én for ord, én for beslutninger
Teknikker
Behold en generativ modell for å forklare og snakke, og la en liten, rask, ikke-generativ modell ta ja/nei-beslutninger. Ideen holder fortsatt stikk; den første kandidaten vi prøvde, forsto ikke brannmurkommandoer godt nok.
Skanne modellfiler før de lastes
Teknikker
Modellfiler lagret som Python-pickle kan kjøre kode i det øyeblikket de lastes, så åpne skannere som ModelScan, picklescan og fickling leser dem uten å laste dem. Nyttig som sperre før en nedlasting kommer inn i en bygging; funn trenger fortsatt menneskelig gjennomgang. FireAI skanner ikke filer: den styrer hvilken app som kobler til hvor.
Svært små URL-risikoklassifiserere
Modeller
Modeller på noen få megabyte som vurderer phishing-risikoen for en nettadresse uten å lese siden. Små nok til å vurderes for kontroll per tilkobling. Neste på benken; ingen resultater ennå.
I nyhetene:Documentation placeholder domain scams
Klassifikatorer for prompt-injeksjon (Prompt Guard, Llama Guard)
Modeller
Små modeller foran en LLM som flagger injeksjonsforsøk og utrygt innhold. De reduserer forsøk som samsvarer med kjente mønstre uten å fjerne angrepet, og to åpne deteksjonsprosjekter er arkivert, så en beskyttelse bør kunne byttes ut. De kan ikke bedømme en tilkobling; en brannmur kan ikke bedømme en prompt.
Skriptet 2D-til-3D-maskotpipeline
Verktøy
2D-maskotkunsten vår blir til animerte 3D-modeller (for appen, nettet og sosial video) med én kommando, slik at hele familien kan bygges på nytt når kunsten endres. Øynene var den vanskelige delen.
Signerte modeller og KI-stykklister
Verktøy
Å signere en modell med Sigstore-verktøy lar brukeren kontrollere hvem som publiserte den og at filene ikke er endret. En signatur beviser opprinnelse og integritet, ikke sikkerhet, og en stykkliste registrerer hva forfatteren oppgir, ikke hva som er verifisert. Verdt å følge med på etter hvert som bruken vokser.
Red team-skannere for LLM (garak, PyRIT, promptfoo)
Verktøy
Åpne skannere sender fiendtlige inndata til en modell eller en app og registrerer svaret. De tester atferd, ikke filer, og resultatene avhenger av målet og av dommeren som er satt opp. Ett av verktøyene er nå en del av OpenAI, så vedlikehold og eierskap bør sjekkes før man stoler på noe av dem.
Utgangskontroll for AI-agenter
Teknikker
Nvidias nye sikkerhetsplattform for agenter begrenser hva en AI-agent kan nå, etter at agenter ble rapportert å handle utover sine instruksjoner. Samme idé gjelder på en Mac: en agent-app bør bare nå de målene oppgaven krever. FireAIs Agent profile, bygget for neste versjon, gjenkjenner Claude Code, Cursor og lignende apper, lærer over tre dager hvilke mål hver av dem vanligvis kontakter, og varsler deretter om et mål de aldri har brukt eller en opplastingstopp, slik at du kan se nærmere på det. Det er en baseline, ikke en lås, og den kan ikke se prompter eller innholdet i verktøy. På benken: agenter som startes gjennom en tolk, som ikke gjenkjennes ennå.
I nyhetene:AI agent safetyAI agent securityAI agent security
Ukjente apper som kaller AI-modell-API-er
Teknikker
Cisco Talos beskrev et Windows-program som spør flere kommersielle AI-modeller hva det skal gjøre videre. Uansett hva det kjører på, må et slikt program nå en AI-leverandør over nettverket. På benken: varsle brukeren når en app de aldri har godkjent, begynner å snakke med en AI-modell-leverandør.
I nyhetene:AI-directed Windows implant
Nettverks-"AI-brannmurer" for datasentre og AI-apper
Plattformer
Leverandører bruker nå "AI-brannmur" om to forskjellige ting: AI inne i en nettverksbrannmur, og et filter foran ledetekstene og svarene til en AI-applikasjon. Ingen av delene kjører på en personlig Mac. Vi følger begge for å lære hvilke ideer som kan overføres til en enkelt datamaskin.
I nyhetene:AI firewall products
Nettleserutvidelser som vei inn til AI-assistenter
Verktøy
Forskere viste at én ondsinnet nettleserutvidelse kan styre AI-assistenten som er innebygd i flere nettlesere. En nettverksbrannmur ser nettleseren, ikke utvidelsene dens. På benken: veilede brukere gjennom en gjennomgang av Safari-utvidelser fra innsiden av FireAI.
I nyhetene:Browser AI agent security
OpenClaw
Verktøy
Personlig AI-agent med åpen kildekode, laget av Peter Steinberger og nå drevet av OpenClaw Foundation, som lever på din egen datamaskin og tar imot ordre fra chat-appene dine. Verktøyene kjører på verten med mindre de isoleres, så den åpner utgående tilkoblinger ingen på Macen har valgt én etter én. Derfor følger vi med: en brannmur må styre dem. For å flytte den til utprøving måtte vi se FireAI liste tilkoblingene dens per mål, og en oppgavebegrenset tillatelsesliste holde uten å ødelegge det vanlige arbeidet.
Hermes Agent
Verktøy
Selvforbedrende AI-agent med åpen kildekode fra Nous Research (MIT-lisens) med vedvarende minne, et terminalgrensesnitt og en innebygd import for OpenClaw-oppsett. Agenter med skall- og nettverkstilgang på skrivebordet er en ny kilde til utgående tilkoblinger, og en som lærer nye ferdigheter over tid er vanskeligere å forutse. For å flytte den til utprøving måtte vi se trafikken dens holde seg innenfor en kort liste med godkjente mål gjennom flere dager med reell bruk.
Kontrollplan for KI-agenter i bedrifter
Plattformer
OpenClaw Foundation har startet et åpent kontrollplan som gir en bedrift ett sted å styre KI-agentene sine, etter at enkelte virksomheter forbød agenten helt. Denne typen styring avgjør hvem som får kjøre en agent og med hvilke rettigheter; den ser ikke hva hver enkelt Mac kobler til. I laboratoriet: hvordan en oversikt per Mac over en agents utgående tilkoblinger kan komme som et supplement til bedriftens retningslinjer.
I nyhetene:AI agent security
Eksponerte kjøremiljøer for agenter og containervertar
Teknikker
Et botnett som ThreatDown har omtalt, installerer den åpne agenten Hermes Agent på Docker-verter som står åpne mot internett, og tar imot ordrene sine via Telegram. Det svake punktet er den eksponerte administrasjonstjenesten, ikke agenten, og alle kjøremiljøer for agenter som kan nås fra nettverket, har samme risiko. I laboratoriet: å si fra til brukeren når en tjeneste på Macen begynner å ta imot tilkoblinger fra andre maskiner.
I nyhetene:AI agent security
Bakdører i klonede installasjonsprogrammer og diskbilder på macOS
Teknikker
Rapporter beskriver et falskt Zoom-installasjonsprogram levert som diskbilde til Mac-er, og Jamf Threat Labs analyserte CloudSyncD, en totrinns bakdør som skjuler et phishet passord i Unicode-tegn uten bredde. Et klonet installasjonsprogram ser ut som den ekte appen, så det første synlige tegnet er ofte hvor den nye prosessen kobler seg til. I laboratoriet: å flagge en nylig installert app som kontakter et ukjent mål kort tid etter første oppstart.
I nyhetene:macOS fake installersmacOS backdoors
HisnLabs