Zwei Gehirne: eines für Worte, eines für Entscheidungen
Techniken
Ein generatives Modell fürs Erklären und Reden behalten, und ein kleines, schnelles, nicht-generatives Modell Ja/Nein-Entscheidungen treffen lassen. Die Idee gilt weiterhin; der erste getestete Kandidat verstand Firewall-Befehle nicht gut genug.
Modelldateien vor dem Laden prüfen
Techniken
Als Python-Pickle gespeicherte Modelldateien können beim Laden sofort Code ausführen. Offene Scanner wie ModelScan, picklescan und fickling lesen sie deshalb, ohne sie zu laden. Nützlich als Schranke, bevor ein Download in einen Build gelangt; Funde brauchen weiterhin menschliche Prüfung. FireAI prüft keine Dateien: Es steuert, welche App wohin verbindet.
Winzige URL-Risiko-Klassifikatoren
Modelle
Modelle von wenigen Megabyte, die das Phishing-Risiko einer Webadresse bewerten, ohne die Seite zu lesen. Klein genug, um Prüfungen pro Verbindung in Betracht zu ziehen. Als Nächstes auf der Werkbank; noch keine Ergebnisse.
In den Nachrichten:Documentation placeholder domain scams
Prompt-Injection-Klassifikatoren (Prompt Guard, Llama Guard)
Modelle
Kleine Modelle vor einem LLM, die Injection-Versuche und unsichere Inhalte markieren. Sie mindern Versuche, die bekannten Mustern entsprechen, und beseitigen den Angriff nicht; zwei offene Detektor-Projekte wurden archiviert, daher sollte ein Schutz austauschbar bleiben. Sie können keine Verbindung beurteilen; eine Firewall kann keinen Prompt beurteilen.
Skriptgesteuerte 2D-zu-3D-Pipeline fürs Maskottchen
Werkzeuge
Unsere 2D-Maskottchen-Grafik wird mit einem einzigen Befehl zu animierten 3D-Modellen (für die App, das Web und Social-Video), sodass die ganze Familie neu gebaut werden kann, wenn sich die Grafik ändert. Die Augen waren der schwierige Teil.
Signierte Modelle und KI-Stücklisten
Werkzeuge
Wer ein Modell mit Sigstore-Werkzeugen signiert, ermöglicht die Prüfung, wer es veröffentlicht hat und ob sich die Dateien geändert haben. Eine Signatur belegt Herkunft und Integrität, nicht Sicherheit, und eine Stückliste hält fest, was der Autor angibt, nicht was geprüft wurde. Beobachtenswert, während die Verbreitung wächst.
Red-Team-Scanner für LLMs (garak, PyRIT, promptfoo)
Werkzeuge
Offene Scanner senden feindliche Eingaben an ein Modell oder eine App und halten die Reaktion fest. Sie testen Verhalten, nicht Dateien, und ihre Ergebnisse hängen vom Ziel und vom konfigurierten Bewerter ab. Einer davon gehört inzwischen zu OpenAI; Wartung und Eigentümer sollten geprüft werden, bevor man sich auf einen verlässt.
Egress-Kontrolle für KI-Agenten
Techniken
Nvidias neue Sicherheitsplattform für Agenten begrenzt, was ein KI-Agent erreichen darf, nachdem Agenten gemeldet wurden, die über ihre Anweisungen hinaus handelten. Dieselbe Idee gilt auf einem Mac: Eine Agenten-App sollte nur die Ziele erreichen, die ihre Aufgabe erfordert. Agent profile von FireAI, für die nächste Version entwickelt, erkennt Claude Code, Cursor und ähnliche Apps, lernt über drei Tage die Ziele, die jede normalerweise kontaktiert, und meldet dann ein erstmals kontaktiertes Ziel oder eine Upload-Spitze zur Prüfung. Es ist eine Baseline, kein Schloss, und es kann weder Prompts noch Werkzeuginhalte sehen. Auf der Werkbank: Agenten, die über einen Interpreter gestartet werden und noch nicht erkannt werden.
In den Nachrichten:AI agent safetyAI agent securityAI agent security
Unbekannte Apps, die KI-Modell-APIs aufrufen
Techniken
Cisco Talos beschrieb ein Windows-Programm, das mehrere kommerzielle KI-Modelle fragt, was als Nächstes zu tun sei. Egal, worauf es läuft, ein solches Programm muss einen KI-Anbieter über das Netzwerk erreichen. Auf der Werkbank: den Nutzer benachrichtigen, wenn eine App, die er nie genehmigt hat, beginnt, mit einem KI-Modellanbieter zu kommunizieren.
In den Nachrichten:AI-directed Windows implant
Netzwerk-„KI-Firewalls" für Rechenzentren und KI-Apps
Plattformen
Anbieter verwenden „KI-Firewall" inzwischen für zwei verschiedene Dinge: KI innerhalb einer Netzwerk-Firewall, und einen Filter vor den Eingaben und Antworten einer KI-Anwendung. Keines von beiden läuft auf einem privaten Mac. Wir verfolgen beides, um zu lernen, welche Ideen sich auf einen einzelnen Computer übertragen lassen.
In den Nachrichten:AI firewall products
Browser-Erweiterungen als Weg zu KI-Assistenten
Werkzeuge
Forscher zeigten, dass eine einzige bösartige Browser-Erweiterung den in mehrere Browser eingebauten KI-Assistenten steuern kann. Eine Netzwerk-Firewall sieht den Browser, nicht seine Erweiterungen. Auf der Werkbank: Nutzer durch eine Überprüfung der Safari-Erweiterungen direkt in FireAI führen.
In den Nachrichten:Browser AI agent security
OpenClaw
Werkzeuge
Persönlicher KI-Agent als Open Source, entwickelt von Peter Steinberger und heute von der OpenClaw Foundation betreut, der auf dem eigenen Computer läuft und seine Aufträge aus Ihren Chat-Apps erhält. Seine Werkzeuge laufen auf dem Host, sofern sie nicht abgeschottet sind; er baut also ausgehende Verbindungen auf, die niemand am Mac einzeln gewählt hat. Deshalb beobachten wir ihn: Eine Firewall muss sie steuern. Für den Wechsel zu Trial müssten wir sehen, dass FireAI seine Verbindungen nach Ziel auflistet und eine auf die Aufgabe begrenzte Erlaubnisliste hält, ohne seine normale Arbeit zu stören.
Hermes Agent
Werkzeuge
Selbstverbessernder KI-Agent als Open Source von Nous Research (MIT-Lizenz) mit dauerhaftem Gedächtnis, einer Terminal-Oberfläche und einem eingebauten Import für OpenClaw-Setups. Agenten mit Shell- und Netzwerkzugriff auf dem Desktop sind eine neue Quelle ausgehender Verbindungen, und einer, der mit der Zeit neue Fähigkeiten lernt, ist schwerer vorherzusehen. Für den Wechsel zu Trial müssten wir sehen, dass sein Datenverkehr über mehrere Tage realer Nutzung innerhalb einer kurzen Liste freigegebener Ziele bleibt.
Kontrollebenen für KI-Agenten in Unternehmen
Plattformen
Die OpenClaw Foundation hat eine quelloffene Kontrollebene begonnen, mit der ein Unternehmen seine KI-Agenten an einer Stelle steuert, nachdem einige Firmen den Agenten ganz verboten hatten. Diese Art von Governance legt fest, wer einen Agenten mit welchen Rechten betreiben darf; sie sieht nicht, womit sich der einzelne Mac verbindet. Im Labor: wie eine Mac-bezogene Sicht auf die ausgehenden Verbindungen eines Agenten neben eine Unternehmensrichtlinie treten könnte.
In den Nachrichten:AI agent security
Offen erreichbare Agenten-Laufzeiten und Container-Hosts
Techniken
Ein von ThreatDown beschriebenes Botnet installiert den quelloffenen Hermes Agent auf Docker-Hosts, die offen im Internet stehen, und erhält seine Befehle über Telegram. Die Schwachstelle ist der offene Verwaltungsdienst, nicht der Agent, und jede aus dem Netz erreichbare Agenten-Laufzeit birgt dasselbe Risiko. Im Labor: dem Nutzer melden, wenn ein Dienst auf seinem Mac beginnt, Verbindungen von anderen Rechnern anzunehmen.
In den Nachrichten:AI agent security
Backdoors in geklonten Installern und Disk-Images unter macOS
Techniken
Berichte beschreiben einen gefälschten Zoom-Installer, der als Disk-Image an Macs verteilt wird, und Jamf Threat Labs hat CloudSyncD analysiert, eine zweistufige Backdoor, die ein abgephishtes Passwort in Unicode-Zeichen der Breite null versteckt. Ein geklonter Installer sieht aus wie die echte App; das erste sichtbare Anzeichen ist deshalb oft, wohin sich der neue Prozess verbindet. Im Labor: eine frisch installierte App melden, die kurz nach dem ersten Start ein unbekanntes Ziel kontaktiert.
In den Nachrichten:macOS fake installersmacOS backdoors
HisnLabs