Dos cerebros: uno para las palabras, otro para las decisiones
Técnicas
Mantener un modelo generativo para explicar y conversar, y dejar que un modelo pequeño, rápido y no generativo tome las decisiones de sí/no. La idea sigue siendo válida; el primer candidato que probamos no entendía lo bastante bien las órdenes del cortafuegos.
Analizar los archivos de modelo antes de cargarlos
Técnicas
Los archivos de modelo guardados como pickle de Python pueden ejecutar código en cuanto se cargan, por eso analizadores abiertos como ModelScan, picklescan y fickling los leen sin cargarlos. Sirven como filtro antes de que una descarga entre en una compilación; los resultados aún requieren revisión humana. FireAI no analiza archivos: controla qué app se conecta a dónde.
Clasificadores diminutos de riesgo de URL
Modelos
Modelos de apenas unos megabytes que puntúan el riesgo de phishing de una dirección web sin leer la página. Lo bastante pequeños como para considerarlos en comprobaciones por conexión. Es lo siguiente en el banco de pruebas; todavía sin resultados.
En las noticias:Documentation placeholder domain scams
Clasificadores de inyección de prompts (Prompt Guard, Llama Guard)
Modelos
Modelos pequeños situados delante de un LLM para señalar intentos de inyección y contenido inseguro. Reducen los intentos que coinciden con patrones conocidos sin eliminar el ataque, y dos proyectos abiertos de detección han sido archivados, así que una protección debe poder sustituirse. No pueden juzgar una conexión; un cortafuegos no puede juzgar un prompt.
Canalización guionizada de 2D a 3D para la mascota
Herramientas
Nuestro arte 2D de la mascota se convierte en modelos 3D animados (para la aplicación, la web y los vídeos sociales) con un solo comando, de modo que toda la familia se puede reconstruir cuando cambia el arte. Los ojos fueron la parte más difícil.
Modelos firmados y listas de materiales de IA
Herramientas
Firmar un modelo con las herramientas de Sigstore permite comprobar quién lo publicó y que sus archivos no cambiaron. Una firma prueba el origen y la integridad, no la seguridad, y una lista de materiales recoge lo que declara el autor, no lo que se verificó. Conviene seguirlo a medida que crece su adopción.
Escáneres de red team para LLM (garak, PyRIT, promptfoo)
Herramientas
Escáneres abiertos envían entradas adversarias a un modelo o a una app y registran cómo responde. Prueban el comportamiento, no los archivos, y sus resultados dependen del objetivo y del juez configurado. Uno de ellos forma ahora parte de OpenAI, así que conviene revisar el mantenimiento y la propiedad antes de confiar en cualquiera.
Control de salida para agentes de IA
Técnicas
La nueva plataforma de seguridad para agentes de Nvidia limita lo que un agente de IA puede alcanzar, después de que se informara de agentes que actuaban más allá de sus instrucciones. La misma idea se aplica en un Mac: una aplicación agente solo debería alcanzar los destinos que su tarea necesita. Agent profile de FireAI, creado para la próxima versión, reconoce Claude Code, Cursor y aplicaciones similares, aprende durante tres días los destinos a los que se conecta normalmente cada una y después señala para su revisión un destino nunca visto o un pico de subida. Es una línea base, no un candado, y no puede ver los prompts ni el contenido de las herramientas. En el banco de pruebas: los agentes iniciados mediante un intérprete, que todavía no se reconocen.
En las noticias:AI agent safetyAI agent securityAI agent security
Aplicaciones desconocidas que llaman a las API de modelos de IA
Técnicas
Cisco Talos describió un programa de Windows que pregunta a varios modelos de IA comerciales qué hacer a continuación. Sea cual sea el equipo en el que se ejecute, un programa así debe alcanzar a un proveedor de IA por la red. En el banco de pruebas: avisar al usuario cuando una aplicación que nunca aprobó empieza a hablar con un proveedor de modelos de IA.
En las noticias:AI-directed Windows implant
«Cortafuegos de IA» de red para centros de datos y aplicaciones de IA
Plataformas
Los proveedores usan ahora «cortafuegos de IA» para dos cosas distintas: IA dentro de un cortafuegos de red, y un filtro delante de las instrucciones y respuestas de una aplicación de IA. Ninguna de las dos corre en un Mac personal. Seguimos ambas para aprender qué ideas se trasladan a un solo ordenador.
En las noticias:AI firewall products
Las extensiones del navegador como vía de entrada a los asistentes de IA
Herramientas
Investigadores demostraron que una sola extensión de navegador maliciosa puede controlar el asistente de IA integrado en varios navegadores. Un cortafuegos de red ve el navegador, no sus extensiones. En el banco de pruebas: guiar a los usuarios por una revisión de extensiones de Safari desde dentro de FireAI.
En las noticias:Browser AI agent security
OpenClaw
Herramientas
Agente de IA personal de código abierto, creado por Peter Steinberger y ahora gestionado por la OpenClaw Foundation, que vive en tu propio ordenador y recibe órdenes desde tus aplicaciones de mensajería. Sus herramientas se ejecutan en el equipo anfitrión salvo que se aíslen, así que abre conexiones salientes que nadie en el Mac ha elegido una a una. Por eso lo vigilamos: un cortafuegos tiene que gobernarlas. Para pasarlo a prueba, tendríamos que ver a FireAI listar sus conexiones por destino y una lista de permitidos acotada a la tarea mantenerse sin romper su trabajo normal.
Hermes Agent
Herramientas
Agente de IA de código abierto y automejorable de Nous Research (licencia MIT), con memoria persistente, una interfaz de terminal y un importador integrado para configuraciones de OpenClaw. Los agentes con acceso a la shell y a la red en el escritorio son una nueva fuente de conexiones salientes, y uno que aprende habilidades nuevas con el tiempo es más difícil de predecir. Para pasarlo a prueba, tendríamos que ver su tráfico mantenerse dentro de una lista corta de destinos aprobados durante varios días de uso real.
Planos de control para agentes de IA en la empresa
Plataformas
La OpenClaw Foundation ha iniciado un plano de control de código abierto que da a una empresa un único lugar desde el que gobernar sus agentes de IA, después de que algunas compañías prohibieran el agente por completo. Este tipo de gobernanza decide quién puede ejecutar un agente y con qué permisos; no ve a qué se conecta cada Mac. En el laboratorio: cómo una vista por Mac de las conexiones salientes de un agente podría acompañar a una política de empresa.
En las noticias:AI agent security
Entornos de ejecución de agentes y hosts de contenedores expuestos
Técnicas
Una botnet descrita por ThreatDown instala el agente de código abierto Hermes Agent en hosts Docker abiertos a internet y recibe sus órdenes a través de Telegram. El punto débil es el servicio de administración expuesto, no el agente, y cualquier entorno de ejecución de agentes accesible desde la red corre el mismo riesgo. En el laboratorio: avisar al usuario cuando un servicio de su Mac empieza a aceptar conexiones de otros equipos.
En las noticias:AI agent security
Puertas traseras en instaladores e imágenes de disco clonados en macOS
Técnicas
Varios informes describen un falso instalador de Zoom entregado como imagen de disco a Mac, y Jamf Threat Labs analizó CloudSyncD, una puerta trasera en dos fases que oculta una contraseña obtenida por phishing en caracteres Unicode de ancho cero. Un instalador clonado se parece a la aplicación real, así que la primera señal visible suele ser a dónde se conecta el nuevo proceso. En el laboratorio: señalar una app recién instalada que contacta con un destino desconocido poco después de su primer arranque.
En las noticias:macOS fake installersmacOS backdoors
HisnLabs