Dos cerebros: uno para las palabras, otro para las decisiones
Técnicas
Mantener un modelo generativo para explicar y conversar, y dejar que un modelo pequeño, rápido y no generativo tome las decisiones de sí/no. La idea sigue siendo válida; el primer candidato que probamos no entendía lo bastante bien las órdenes del cortafuegos.
Analizar los archivos de modelo antes de cargarlos
Técnicas
Los archivos de modelo guardados como pickle de Python pueden ejecutar código en cuanto se cargan, por eso analizadores abiertos como ModelScan, picklescan y fickling los leen sin cargarlos. Sirven como filtro antes de que una descarga entre en una compilación; los resultados aún requieren revisión humana. FireAI no analiza archivos: controla qué app se conecta a dónde.
Clasificadores diminutos de riesgo de URL
Modelos
Modelos de apenas unos megabytes que puntúan el riesgo de phishing de una dirección web sin leer la página. Lo bastante pequeños como para considerarlos en comprobaciones por conexión. Es lo siguiente en el banco de pruebas; todavía sin resultados.
En las noticias:Documentation placeholder domain scams
Clasificadores de inyección de prompts (Prompt Guard, Llama Guard)
Modelos
Modelos pequeños situados delante de un LLM para señalar intentos de inyección y contenido inseguro. Reducen los intentos que coinciden con patrones conocidos sin eliminar el ataque, y dos proyectos abiertos de detección han sido archivados, así que una protección debe poder sustituirse. No pueden juzgar una conexión; un firewall no puede juzgar un prompt.
Canalización guionizada de 2D a 3D para la mascota
Herramientas
Nuestro arte 2D de la mascota se convierte en modelos 3D animados (para la aplicación, la web y los videos sociales) con un solo comando, de modo que toda la familia se puede reconstruir cuando cambia el arte. Los ojos fueron la parte más difícil.
Modelos firmados y listas de materiales de IA
Herramientas
Firmar un modelo con las herramientas de Sigstore permite comprobar quién lo publicó y que sus archivos no cambiaron. Una firma prueba el origen y la integridad, no la seguridad, y una lista de materiales recoge lo que declara el autor, no lo que se verificó. Conviene seguirlo a medida que crece su adopción.
Escáneres de red team para LLM (garak, PyRIT, promptfoo)
Herramientas
Escáneres abiertos envían entradas adversarias a un modelo o a una app y registran cómo responde. Prueban el comportamiento, no los archivos, y sus resultados dependen del objetivo y del juez configurado. Uno de ellos forma ahora parte de OpenAI, así que conviene revisar el mantenimiento y la propiedad antes de confiar en cualquiera.
Control de salida para agentes de IA
Técnicas
La nueva plataforma de seguridad para agentes de Nvidia limita lo que un agente de IA puede alcanzar, después de que se informara de agentes que actuaban más allá de sus instrucciones. La misma idea se aplica en una Mac: una app de agente solo debería alcanzar los destinos que su tarea necesita. Agent profile de FireAI, creado para la próxima versión, reconoce Claude Code, Cursor y apps similares, aprende durante tres días los destinos que cada una contacta normalmente y luego marca para revisión un destino nunca antes visto o un pico de subida. Es una línea base, no un candado, y no puede ver prompts ni el contenido de las herramientas. En el banco de pruebas: los agentes iniciados mediante un intérprete, que todavía no se reconocen.
En las noticias:AI agent safetyAI agent securityAI agent security
Aplicaciones desconocidas que llaman a las API de modelos de IA
Técnicas
Cisco Talos describió un programa de Windows que pregunta a varios modelos de IA comerciales qué hacer a continuación. Sea cual sea el equipo en el que se ejecute, un programa así debe alcanzar a un proveedor de IA por la red. En el banco de pruebas: avisar al usuario cuando una aplicación que nunca aprobó empieza a hablar con un proveedor de modelos de IA.
En las noticias:AI-directed Windows implant
«Cortafuegos de IA» de red para centros de datos y aplicaciones de IA
Plataformas
Los proveedores usan ahora «cortafuegos de IA» para dos cosas distintas: IA dentro de un cortafuegos de red, y un filtro delante de las instrucciones y respuestas de una aplicación de IA. Ninguna de las dos corre en un Mac personal. Seguimos ambas para aprender qué ideas se trasladan a un solo ordenador.
En las noticias:AI firewall products
Las extensiones del navegador como vía de entrada a los asistentes de IA
Herramientas
Investigadores demostraron que una sola extensión de navegador maliciosa puede controlar el asistente de IA integrado en varios navegadores. Un cortafuegos de red ve el navegador, no sus extensiones. En el banco de pruebas: guiar a los usuarios por una revisión de extensiones de Safari desde dentro de FireAI.
En las noticias:Browser AI agent security
OpenClaw
Herramientas
Agente de IA personal de código abierto, creado por Peter Steinberger y ahora gestionado por la OpenClaw Foundation, que vive en tu propio computadora y recibe órdenes desde tus aplicaciones de mensajería. Sus herramientas se ejecutan en el equipo anfitrión salvo que se aíslen, así que abre conexiones salientes que nadie en el Mac ha elegido una a una. Por eso lo vigilamos: un firewall tiene que gobernarlas. Para pasarlo a prueba, tendríamos que ver a FireAI listar sus conexiones por destino y una lista de permitidos acotada a la tarea mantenerse sin romper su trabajo normal.
Hermes Agent
Herramientas
Agente de IA de código abierto y automejorable de Nous Research (licencia MIT), con memoria persistente, una interfaz de terminal y un importador integrado para configuraciones de OpenClaw. Los agentes con acceso a la shell y a la red en el escritorio son una nueva fuente de conexiones salientes, y uno que aprende habilidades nuevas con el tiempo es más difícil de predecir. Para pasarlo a prueba, tendríamos que ver su tráfico mantenerse dentro de una lista corta de destinos aprobados durante varios días de uso real.
Planos de control para agentes de IA en la empresa
Plataformas
La OpenClaw Foundation arrancó un plano de control de código abierto que le da a una empresa un solo lugar para gobernar sus agentes de IA, luego de que algunas compañías prohibieran el agente por completo. Este tipo de gobernanza define quién puede ejecutar un agente y con qué permisos; no ve a qué se conecta cada Mac. En el laboratorio: cómo una vista por Mac de las conexiones salientes de un agente podría complementar una política de la empresa.
En las noticias:AI agent security
Entornos de ejecución de agentes y hosts de contenedores expuestos
Técnicas
Una botnet descrita por ThreatDown instala el agente de código abierto Hermes Agent en hosts Docker que quedaron abiertos a internet y recibe sus órdenes por Telegram. El punto débil es el servicio de administración expuesto, no el agente, y cualquier entorno de ejecución de agentes al que se pueda llegar desde la red tiene el mismo riesgo. En el laboratorio: avisarle al usuario cuando un servicio de su Mac empieza a aceptar conexiones de otras computadoras.
En las noticias:AI agent security
Puertas traseras en instaladores e imágenes de disco clonados en macOS
Técnicas
Distintos reportes describen un instalador falso de Zoom que llega como imagen de disco a Mac, y Jamf Threat Labs analizó CloudSyncD, una puerta trasera en dos etapas que esconde una contraseña obtenida por phishing en caracteres Unicode de ancho cero. Un instalador clonado se ve igual que la app real, por eso la primera señal visible suele ser a dónde se conecta el proceso nuevo. En el laboratorio: marcar una app recién instalada que se comunica con un destino desconocido poco después de abrirse por primera vez.
En las noticias:macOS fake installersmacOS backdoors
HisnLabs