Due cervelli: uno per le parole, uno per le decisioni
Tecniche
Tenere un modello generativo per spiegare e conversare, e lasciare che un modello piccolo, veloce e non generativo prenda le decisioni sì/no. L'idea resta valida; il primo candidato provato non capiva abbastanza bene gli ordini del firewall.
Analizzare i file dei modelli prima di caricarli
Tecniche
I file di modello salvati come pickle di Python possono eseguire codice appena vengono caricati, quindi scanner aperti come ModelScan, picklescan e fickling li leggono senza caricarli. Utili come filtro prima che un download entri in una build; i risultati richiedono comunque una revisione umana. FireAI non analizza i file: controlla quale app si collega dove.
Piccolissimi classificatori di rischio URL
Modelli
Modelli di pochi megabyte che valutano il rischio di phishing di un indirizzo web senza leggere la pagina. Abbastanza piccoli da considerare controlli per ogni connessione. Prossimo passo sul banco di prova; ancora nessun risultato.
Nelle notizie:Documentation placeholder domain scams
Classificatori di prompt injection (Prompt Guard, Llama Guard)
Modelli
Piccoli modelli posti davanti a un LLM per segnalare tentativi di injection e contenuti non sicuri. Riducono i tentativi che corrispondono a schemi noti senza eliminare l'attacco, e due progetti aperti di rilevamento sono stati archiviati: una protezione deve restare sostituibile. Non possono giudicare una connessione; un firewall non può giudicare un prompt.
Pipeline scriptata da 2D a 3D per la mascotte
Strumenti
La nostra mascotte in stile 2D diventa modelli 3D animati (per l'app, il web e i video social) con un solo comando, così l'intera famiglia può essere rigenerata quando l'artwork cambia. Gli occhi sono stati la parte più difficile.
Modelli firmati e distinte base dell'IA
Strumenti
Firmare un modello con gli strumenti Sigstore permette di verificare chi lo ha pubblicato e che i file non siano cambiati. Una firma prova origine e integrità, non sicurezza, e una distinta base registra ciò che l'autore dichiara, non ciò che è stato verificato. Da seguire man mano che l'adozione cresce.
Scanner di red team per LLM (garak, PyRIT, promptfoo)
Strumenti
Scanner aperti inviano input ostili a un modello o a un'app e registrano come risponde. Testano il comportamento, non i file, e i risultati dipendono dal bersaglio e dal giudice configurato. Uno di essi fa ora parte di OpenAI: conviene verificare manutenzione e proprietà prima di affidarsi a uno qualsiasi.
Controllo delle uscite di rete per gli agenti IA
Tecniche
La nuova piattaforma di sicurezza per agenti di Nvidia limita ciò che un agente IA può raggiungere, dopo che erano stati segnalati agenti che agivano oltre le proprie istruzioni. La stessa idea vale su un Mac: un’app agente dovrebbe raggiungere solo le destinazioni necessarie al suo compito. Agent profile di FireAI, realizzato per la prossima versione, riconosce Claude Code, Cursor e app simili, impara per tre giorni le destinazioni che ciascuna contatta di solito, poi segnala per la verifica una destinazione mai vista o un picco di invio. È una base di riferimento, non un lucchetto, e non può vedere i prompt né il contenuto degli strumenti. Sul banco di prova: gli agenti avviati tramite un interprete, che non sono ancora riconosciuti.
Nelle notizie:AI agent safetyAI agent securityAI agent security
App sconosciute che chiamano le API di modelli IA
Tecniche
Cisco Talos ha descritto un programma Windows che chiede a diversi modelli IA commerciali cosa fare dopo. Su qualunque dispositivo giri, un programma simile deve raggiungere un fornitore di IA tramite la rete. Sul banco di prova: avvisare l'utente quando un'app mai approvata inizia a comunicare con un fornitore di modelli IA.
Nelle notizie:AI-directed Windows implant
«Firewall IA» di rete per data center e app IA
Piattaforme
I fornitori usano ormai «firewall IA» per due cose diverse: IA dentro un firewall di rete, e un filtro davanti ai prompt e alle risposte di un'applicazione IA. Nessuno dei due gira su un Mac personale. Seguiamo entrambi per capire quali idee si trasferiscono a un singolo computer.
Nelle notizie:AI firewall products
Le estensioni del browser come porta d'accesso agli assistenti IA
Strumenti
I ricercatori hanno dimostrato che una singola estensione del browser malevola può controllare l'assistente IA integrato in diversi browser. Un firewall di rete vede il browser, non le sue estensioni. Sul banco di prova: guidare gli utenti in una revisione delle estensioni Safari direttamente da FireAI.
Nelle notizie:Browser AI agent security
OpenClaw
Strumenti
Agente IA personale open source, creato da Peter Steinberger e ora gestito dalla OpenClaw Foundation, che vive sul tuo computer e riceve gli ordini dalle tue app di messaggistica. I suoi strumenti girano sull'host a meno che non siano isolati, quindi apre connessioni in uscita che nessuno sul Mac ha scelto una per una. Per questo lo osserviamo: un firewall deve governarle. Per portarlo in prova, dovremmo vedere FireAI elencare le sue connessioni per destinazione e una lista di consentiti limitata al compito reggere senza rompere il suo lavoro normale.
Hermes Agent
Strumenti
Agente IA open source e che si automigliora di Nous Research (licenza MIT), con memoria persistente, un'interfaccia da terminale e un importatore integrato per le configurazioni di OpenClaw. Gli agenti con accesso alla shell e alla rete sul desktop sono una nuova fonte di connessioni in uscita, e uno che impara nuove abilità nel tempo è più difficile da prevedere. Per portarlo in prova, dovremmo vedere il suo traffico restare dentro una breve lista di destinazioni approvate per diversi giorni di uso reale.
Piani di controllo per gli agenti IA in azienda
Piattaforme
La OpenClaw Foundation ha avviato un piano di controllo open source che offre a un’azienda un unico punto da cui governare i propri agenti IA, dopo che alcune società avevano vietato del tutto l’agente. Questo tipo di governance stabilisce chi può eseguire un agente e con quali permessi; non vede a cosa si collega ogni Mac. In laboratorio: come una vista per singolo Mac delle connessioni in uscita di un agente potrebbe affiancare una policy aziendale.
Nelle notizie:AI agent security
Runtime di agenti e host di container esposti
Tecniche
Una botnet segnalata da ThreatDown installa l’agente open source Hermes Agent su host Docker lasciati aperti su internet e riceve gli ordini tramite Telegram. Il punto debole è il servizio di gestione esposto, non l’agente, e qualsiasi runtime di agenti raggiungibile dalla rete comporta lo stesso rischio. In laboratorio: avvisare l’utente quando un servizio sul suo Mac inizia ad accettare connessioni da altri computer.
Nelle notizie:AI agent security
Backdoor in installer e immagini disco clonati su macOS
Tecniche
Alcuni rapporti descrivono un falso installer di Zoom distribuito come immagine disco a Mac, e Jamf Threat Labs ha analizzato CloudSyncD, una backdoor in due fasi che nasconde una password carpita con il phishing in caratteri Unicode a larghezza zero. Un installer clonato assomiglia all’app vera, quindi il primo segnale visibile è spesso la destinazione a cui si collega il nuovo processo. In laboratorio: segnalare un’app appena installata che contatta una destinazione sconosciuta poco dopo il primo avvio.
Nelle notizie:macOS fake installersmacOS backdoors
HisnLabs