Radar HisnLabs

Adotar — usamos

• Um conjunto de testes com pedidos reais antes de qualquer modelo ser lançado

  Técnicas

  Todo modelo que entra no Ask FireAI é avaliado em um conjunto fixo de pedidos em linguagem simples, em vários idiomas, antes de se aproximar de um lançamento. Isso transformou "esse modelo parece inteligente" em um número que podemos comparar, e flagrou um candidato que parecia ótimo no papel.

• Animar uma vez, depois descansar

  Técnicas

  Mascotes e esferas reproduzem sua animação uma vez quando uma página aparece, e depois ficam paradas (os olhos podem seguir o cursor). Um aplicativo de segurança roda o dia todo; qualquer coisa que fica em loop para sempre tem um custo o dia todo.

• Pequeno modelo generativo no dispositivo (Gemma 4, 4 bits)

  Modelos

  Move o Ask FireAI: transforma "bloquear jogos para o meu filho" na configuração certa, em 16 idiomas, inteiramente no Mac. Baixado uma vez com o consentimento do usuário, e removido da memória quando ocioso.

• MLX em Apple Silicon

  Plataformas

  O framework de aprendizado de máquina da Apple usa diretamente a memória unificada dos chips da série M. É isso que torna um modelo de linguagem útil viável em um Mac comum.

• Filtro de conteúdo Network Extension

  Plataformas

  A extensão do sistema que vê todas as conexões, de todos os aplicativos, sem uma extensão de kernel. A base do firewall, das regras e do interruptor de emergência da FireAI.

  Nas notícias:Mac network monitoring

• MLX Swift LM

  Ferramentas

  Executa o modelo de linguagem dentro do próprio aplicativo Swift: sem Python, sem servidor auxiliar, sem porta aberta no Mac.

• Concorrência estrita do Swift 6

  Ferramentas

  Detecta condições de corrida de dados em tempo de compilação. Uma armadilha: um callback do sistema marcado para a thread principal mas chamado de outra thread compila sem problemas e falha em tempo de execução. Agora verificamos todos os callbacks do sistema quanto a isso.

Experimentar — em teste

• Filtro de URL do macOS com Private Information Retrieval

  Plataformas

  Novidade no macOS 26: bloquear uma única página (por exemplo, um único canal do YouTube) para todos os aplicativos que usam a rede da Apple, sem que o servidor que responde à consulta jamais saiba qual endereço foi verificado. Move as Páginas bloqueadas (beta).

• Extensões web do Safari para navegação dentro da página

  Plataformas

  Sites como o YouTube mudam de página sem uma nova solicitação de rede, então um filtro de rede não consegue ver o clique. Uma extensão do Safari consegue. Só funciona depois que o usuário a permite em todos os sites, o que agora explicamos no aplicativo.

  Nas notícias:Browser AI agent security

• SceneKit para pequenos elementos 3D no aplicativo

  Ferramentas

  Nossa mascote 3D acabou sendo barata de desenhar. O custo de CPU que inicialmente atribuímos a ela vinha do desfoque animado e da sombra ao redor dela.

Avaliar — vale acompanhar

• Dois cérebros: um para as palavras, outro para as decisões

  Técnicas

  Manter um modelo generativo para explicar e conversar, e deixar um modelo pequeno, rápido e não generativo tomar as decisões de sim/não. A ideia continua válida; o primeiro candidato que testamos não entendeu bem o suficiente os comandos de firewall.

• Analisar arquivos de modelo antes de carregá-los

  Técnicas

  Arquivos de modelo salvos como pickle do Python podem executar código assim que são carregados, por isso scanners abertos como ModelScan, picklescan e fickling os leem sem carregá-los. Úteis como barreira antes de um download entrar em um build; os resultados ainda exigem revisão humana. O FireAI não analisa arquivos: controla qual app se conecta a onde.

• Pequenos classificadores de risco de URL

  Modelos

  Modelos de apenas alguns megabytes que avaliam o risco de phishing de um endereço da web sem ler a página. Pequenos o suficiente para se considerar verificações por conexão. É o próximo na bancada de testes; ainda sem resultados.

  Nas notícias:Documentation placeholder domain scams

• Classificadores de injeção de prompt (Prompt Guard, Llama Guard)

  Modelos

  Modelos pequenos colocados na frente de um LLM para sinalizar tentativas de injeção e conteúdo inseguro. Reduzem tentativas que correspondem a padrões conhecidos sem eliminar o ataque, e dois projetos abertos de detecção foram arquivados, então uma proteção deve ser substituível. Não conseguem avaliar uma conexão; um firewall não consegue avaliar um prompt.

• Pipeline automatizado de mascote 2D para 3D

  Ferramentas

  Nossa arte de mascote em 2D vira modelos 3D animados (para o aplicativo, a web e vídeos para redes sociais) com um único comando, para que toda a família possa ser reconstruída quando a arte muda. Os olhos foram a parte difícil.

• Modelos assinados e listas de materiais de IA

  Ferramentas

  Assinar um modelo com as ferramentas do Sigstore permite verificar quem o publicou e que os arquivos não mudaram. Uma assinatura prova origem e integridade, não segurança, e uma lista de materiais registra o que o autor declara, não o que foi verificado. Vale acompanhar conforme a adoção cresce.

• Scanners de red team para LLM (garak, PyRIT, promptfoo)

  Ferramentas

  Scanners abertos enviam entradas hostis a um modelo ou a um app e registram a resposta. Testam o comportamento, não os arquivos, e os resultados dependem do alvo e do avaliador configurado. Um deles agora faz parte da OpenAI, então vale verificar manutenção e propriedade antes de confiar em qualquer um.

• Controle de saída para agentes de IA

  Técnicas

  A nova plataforma de segurança para agentes da Nvidia limita o que um agente de IA pode alcançar, depois que agentes foram relatados agindo além de suas instruções. A mesma ideia se aplica em um Mac: um aplicativo agente só deve alcançar os destinos que sua tarefa precisa. O Agent profile do FireAI, criado para a próxima versão, reconhece o Claude Code, o Cursor e apps semelhantes, aprende ao longo de três dias os destinos que cada um costuma contatar e depois sinaliza um destino inédito ou um pico de envio para revisão. É uma linha de base, não um cadeado, e não enxerga prompts nem o conteúdo das ferramentas. No laboratório: agentes iniciados por um interpretador, que ainda não são reconhecidos.

  Nas notícias:AI agent safetyAI agent securityAI agent security

• Aplicativos desconhecidos que chamam APIs de modelos de IA

  Técnicas

  A Cisco Talos descreveu um programa Windows que pergunta a vários modelos de IA comerciais o que fazer a seguir. Não importa em que ele rode, um programa desses precisa alcançar um provedor de IA pela rede. Em teste: avisar o usuário quando um aplicativo que ele nunca aprovou começa a se comunicar com um provedor de modelos de IA.

  Nas notícias:AI-directed Windows implant

• "Firewalls de IA" de rede para data centers e aplicativos de IA

  Plataformas

  Os fornecedores agora usam "firewall de IA" para duas coisas diferentes: IA dentro de um firewall de rede, e um filtro na frente dos prompts e respostas de um aplicativo de IA. Nenhum dos dois roda em um Mac pessoal. Acompanhamos os dois para aprender quais ideias se aplicam a um único computador.

  Nas notícias:AI firewall products

• Extensões de navegador como porta de entrada para assistentes de IA

  Ferramentas

  Pesquisadores mostraram que uma única extensão de navegador maliciosa pode controlar o assistente de IA embutido em vários navegadores. Um firewall de rede vê o navegador, não suas extensões. Em teste: guiar os usuários por uma revisão de extensões do Safari de dentro do FireAI.

  Nas notícias:Browser AI agent security

• OpenClaw

  Ferramentas

  Agente de IA pessoal de código aberto, criado por Peter Steinberger e agora gerenciado pela OpenClaw Foundation, que vive no seu próprio computador e recebe ordens das suas aplicativos de mensagens. As suas ferramentas correm no anfitrião, a menos que estejam isoladas, por isso abre conexões de saída que ninguém no Mac escolheu uma a uma. É por isso que o acompanhamos: uma firewall precisa governá-las. Para movê-lo para teste, precisaríamos ver o FireAI listar as suas conexões por destino e uma lista de permitidos limitada à tarefa se sustentar sem quebrar o seu trabalho normal.

• Hermes Agent

  Ferramentas

  Agente de IA de código aberto e que se aperfeiçoa sozinho, da Nous Research (licença MIT), com memória persistente, uma interface de terminal e um importador integrado para configurações do OpenClaw. Os agentes com acesso à shell e à rede no desktop são uma nova fonte de conexões de saída, e um que aprende novas habilidades ao longo do tempo é mais difícil de prever. Para movê-lo para teste, precisaríamos ver o seu tráfego ficar dentro de uma lista curta de destinos aprovados durante vários dias de uso real.

• Planos de controle para agentes de IA nas empresas

  Plataformas

  A OpenClaw Foundation começou um plano de controle de código aberto que dá à empresa um único lugar para governar seus agentes de IA, depois que algumas companhias proibiram o agente por completo. Esse tipo de governança define quem pode rodar um agente e com quais permissões; ele não enxerga a que cada Mac se conecta. No laboratório: como uma visão por Mac das conexões de saída de um agente poderia complementar uma política da empresa.

  Nas notícias:AI agent security

• Ambientes de execução de agentes e hosts de contêineres expostos

  Técnicas

  Uma botnet descrita pela ThreatDown instala o agente de código aberto Hermes Agent em hosts Docker deixados abertos na internet e recebe as ordens pelo Telegram. O ponto fraco é o serviço de administração exposto, não o agente, e qualquer ambiente de execução de agentes acessível pela rede corre o mesmo risco. No laboratório: avisar o usuário quando um serviço do Mac dele passa a aceitar conexões de outros computadores.

  Nas notícias:AI agent security

• Backdoors em instaladores e imagens de disco clonados no macOS

  Técnicas

  Relatórios descrevem um falso instalador do Zoom entregue como imagem de disco a Macs, e a Jamf Threat Labs analisou o CloudSyncD, uma backdoor em dois estágios que esconde uma senha obtida por phishing em caracteres Unicode de largura zero. Um instalador clonado parece o app de verdade, por isso o primeiro sinal visível costuma ser o destino a que o novo processo se conecta. No laboratório: sinalizar um app recém-instalado que contata um destino desconhecido logo depois da primeira abertura.

  Nas notícias:macOS fake installersmacOS backdoors

Suspender — por enquanto não

• Animações de interface sempre em execução em um aplicativo em segundo plano

  Técnicas

  Temporizadores que redesenham a cada quadro, pulsos em loop e desfoque animado mantêm a GPU e a CPU acordadas mesmo quando ninguém está olhando. Removemos todos eles.

• Codificadores de decisão tipados, zero-shot (Laya-multilingual MLX)

  Modelos

  Codificadores que respondem a perguntas tipadas (escolher uma opção, sim/não, pontuação) com confiança calibrada, muito rápidos em Apple Silicon. A velocidade impressiona, e eles lidam bem com roteamento simples, mas em modo zero-shot erraram a maioria dos comandos de firewall. Em espera para esta tarefa, não em geral.

• IA na nuvem decidindo a que seu Mac pode se conectar

  Modelos

  Enviar cada conexão para uma IA remota também enviaria seu histórico de navegação, e acrescentaria uma ida e volta pela rede a cada decisão. A IA da FireAI fica no Mac.

  Nas notícias:AI chatbot privacyAI chatbot privacy

• Agentes de IA pessoais com acesso permanente às suas contas

  Modelos

  Os agentes que reservam, compram e respondem por você funcionam melhor com acesso duradouro a e-mail, calendários e contas de pagamento. Esse acesso sobrevive a qualquer tarefa isolada. Em espera para nossos próprios designs: a IA da FireAI responde perguntas no Mac e não tem acesso a nenhuma conta.

  Nas notícias:Personal AI agent privacyAI assistant security flaws

O que testamos, o que descobrimos

Cada relatório traz a pergunta, o que testamos, os números medidos e a nossa conclusão.

Publicamos resultados, não receitas: o jeito como o FireAI é construído e ajustado fica no laboratório.