Radar HisnLabs

Adopter — nous l'utilisons

• Un jeu de test de commandes réelles avant la mise en production de tout modèle

  Techniques

  Chaque modèle qui touche à Ask FireAI est noté sur un ensemble fixe de commandes en langage courant, dans plusieurs langues, avant d'approcher d'une version. Cela a transformé « ce modèle a l'air intelligent » en un chiffre comparable, et cela a permis de repérer un candidat qui semblait excellent sur le papier.

• Animer une fois, puis se reposer

  Techniques

  Les mascottes et les orbes jouent leur animation une fois à l'affichage d'une page, puis restent immobiles (les yeux peuvent suivre le pointeur). Une appli de sécurité tourne toute la journée ; tout ce qui boucle indéfiniment se paie toute la journée.

• Petit modèle génératif sur l'appareil (Gemma 4, 4 bits)

  Modèles

  Alimente Ask FireAI : transforme « bloquer les jeux pour mon fils » en bon réglage, en 16 langues, entièrement sur le Mac. Téléchargé une fois avec le consentement de l'utilisateur, déchargé de la mémoire en cas d'inactivité.

• MLX sur Apple Silicon

  Plateformes

  Le framework de machine learning d'Apple utilise directement la mémoire unifiée des puces M-series. C'est ce qui rend un modèle de langage utile possible sur un Mac ordinaire.

• Filtre de contenu Network Extension

  Plateformes

  L'extension système qui voit chaque connexion, pour chaque appli, sans extension noyau. Le socle du pare-feu, des règles et du coupe-circuit de FireAI.

  Dans l’actualité:Mac network monitoring

• MLX Swift LM

  Outils

  Exécute le modèle de langage directement dans l'appli Swift : pas de Python, pas de serveur auxiliaire, aucun port ouvert sur le Mac.

• Concurrence stricte de Swift 6

  Outils

  Détecte les accès concurrents à la compilation. Un point délicat : un callback système marqué pour le thread principal mais appelé depuis un autre thread compile sans problème et plante à l'exécution. Nous vérifions désormais chaque callback système pour ça.

Essayer — en test

• Filtre d'URL macOS avec récupération d'information privée

  Plateformes

  Nouveau dans macOS 26 : bloquer une seule page (une chaîne YouTube précise, par exemple) pour toutes les applis utilisant le réseau Apple, sans que le serveur qui répond à la requête n'apprenne jamais quelle adresse a été vérifiée. Alimente Pages bloquées (bêta).

• Extensions web Safari pour la navigation dans la page

  Plateformes

  Des sites comme YouTube changent de page sans nouvelle requête réseau, donc un filtre réseau ne peut pas voir le clic. Une extension Safari, si. Elle ne fonctionne qu'une fois que l'utilisateur l'autorise sur chaque site, ce que nous expliquons désormais dans l'appli.

  Dans l’actualité:Browser AI agent security

• SceneKit pour de la petite 3D intégrée à l'appli

  Outils

  Notre mascotte 3D s'est révélée peu coûteuse à afficher. Le coût CPU que nous lui attribuions d'abord venait en réalité du flou et de l'ombre animés autour d'elle.

Évaluer — à surveiller

• Deux cerveaux : un pour les mots, un pour les décisions

  Techniques

  Garder un modèle génératif pour expliquer et discuter, et laisser un petit modèle rapide et non génératif prendre les décisions oui/non. L'idée tient toujours ; le premier candidat testé ne comprenait pas assez bien les commandes de pare-feu.

• Analyser les fichiers de modèle avant de les charger

  Techniques

  Les fichiers de modèle enregistrés en pickle Python peuvent exécuter du code dès leur chargement ; des analyseurs ouverts comme ModelScan, picklescan et fickling les lisent donc sans les charger. Utile comme barrière avant qu'un téléchargement n'entre dans un build ; les résultats demandent encore une revue humaine. FireAI n'analyse pas les fichiers : il contrôle quelle appli se connecte où.

• Petits classifieurs de risque d'URL

  Modèles

  Des modèles de quelques mégaoctets qui évaluent le risque de phishing d'une adresse web sans lire la page. Assez petits pour envisager des vérifications par connexion. Prochaine étape au banc d'essai ; pas encore de résultats.

  Dans l’actualité:Documentation placeholder domain scams

• Classifieurs d'injection de prompt (Prompt Guard, Llama Guard)

  Modèles

  De petits modèles placés devant un LLM pour repérer les tentatives d'injection et les contenus dangereux. Ils réduisent les tentatives qui ressemblent à des motifs connus sans supprimer l'attaque, et deux projets de détection ouverts ont été archivés : une protection doit rester remplaçable. Ils ne savent pas juger une connexion ; un pare-feu ne sait pas juger un prompt.

• Pipeline scripté 2D vers 3D pour la mascotte

  Outils

  Notre mascotte en art 2D devient des modèles 3D animés (pour l'appli, le web et les vidéos sociales) en une seule commande, si bien que toute la famille peut être régénérée quand l'art change. Les yeux ont été la partie la plus difficile.

• Modèles signés et nomenclatures d'IA

  Outils

  Signer un modèle avec les outils Sigstore permet de vérifier qui l'a publié et que ses fichiers n'ont pas changé. Une signature prouve l'origine et l'intégrité, pas la sûreté, et une nomenclature consigne ce que l'auteur déclare, pas ce qui a été vérifié. À suivre à mesure que l'adoption progresse.

• Scanners de red team pour LLM (garak, PyRIT, promptfoo)

  Outils

  Des scanners ouverts envoient des entrées hostiles à un modèle ou à une appli et notent sa réaction. Ils testent le comportement, pas les fichiers, et leurs résultats dépendent de la cible et du juge configuré. L'un d'eux fait désormais partie d'OpenAI : mieux vaut vérifier la maintenance et la propriété avant de s'appuyer sur l'un d'eux.

• Contrôle des sorties réseau pour les agents IA

  Techniques

  La nouvelle plateforme de sécurité pour agents de Nvidia limite ce que peut atteindre un agent IA, après que des agents ont été signalés comme agissant au-delà de leurs instructions. La même idée s'applique sur un Mac : une appli agent ne devrait atteindre que les destinations nécessaires à sa tâche. Agent profile de FireAI, conçu pour la prochaine version, reconnaît Claude Code, Cursor et des applis similaires, apprend pendant trois jours les destinations que chacune contacte habituellement, puis signale pour examen une destination jamais vue ou un pic d'envoi. C'est une base de référence, pas un verrou, et il ne voit ni les prompts ni le contenu des outils. Au banc d'essai : les agents lancés par un interpréteur, qui ne sont pas encore reconnus.

  Dans l’actualité:AI agent safetyAI agent securityAI agent security

• Applis inconnues qui appellent des API de modèles IA

  Techniques

  Cisco Talos a décrit un programme Windows qui demande à plusieurs modèles IA commerciaux quoi faire ensuite. Quel que soit l'appareil sur lequel il tourne, un tel programme doit atteindre un fournisseur d'IA par le réseau. Au banc d'essai : avertir l'utilisateur quand une appli qu'il n'a jamais approuvée se met à communiquer avec un fournisseur de modèles IA.

  Dans l’actualité:AI-directed Windows implant

• « Pare-feux IA » réseau pour centres de données et applis IA

  Plateformes

  Les fournisseurs utilisent désormais « pare-feu IA » pour deux choses différentes : de l'IA à l'intérieur d'un pare-feu réseau, et un filtre placé devant les invites et réponses d'une application IA. Aucun des deux ne tourne sur un Mac personnel. Nous suivons les deux pour voir quelles idées se transposent à un ordinateur individuel.

  Dans l’actualité:AI firewall products

• Les extensions de navigateur, une porte d'entrée vers les assistants IA

  Outils

  Des chercheurs ont montré qu'une seule extension de navigateur pirate peut détourner l'assistant IA intégré à plusieurs navigateurs. Un pare-feu réseau voit le navigateur, pas ses extensions. Au banc d'essai : guider les utilisateurs dans une revue des extensions Safari depuis FireAI.

  Dans l’actualité:Browser AI agent security

• OpenClaw

  Outils

  Agent IA personnel open source, créé par Peter Steinberger et désormais porté par la OpenClaw Foundation, qui vit sur votre propre ordinateur et reçoit ses ordres depuis vos applications de messagerie. Ses outils s'exécutent sur la machine hôte sauf s'ils sont isolés : il ouvre donc des connexions sortantes que personne sur le Mac n'a choisies une à une. C'est pourquoi nous le suivons : un pare-feu doit les encadrer. Pour le passer en essai, nous devrions voir FireAI lister ses connexions par destination, et une liste d'autorisations propre à la tâche tenir sans casser son fonctionnement normal.

• Hermes Agent

  Outils

  Agent IA open source à auto-amélioration de Nous Research (licence MIT), avec mémoire persistante, une interface en terminal et un importeur intégré pour les configurations OpenClaw. Les agents dotés d'un accès au shell et au réseau sur le poste de travail sont une nouvelle source de connexions sortantes, et un agent qui acquiert de nouvelles compétences avec le temps est plus difficile à prévoir. Pour le passer en essai, nous devrions voir son trafic rester dans une courte liste de destinations approuvées pendant plusieurs jours d'usage réel.

• Plans de contrôle pour les agents IA en entreprise

  Plateformes

  L’OpenClaw Foundation a lancé un plan de contrôle open source qui permet à une entreprise de gouverner ses agents IA depuis un seul endroit, après que certaines sociétés ont interdit l’agent purement et simplement. Ce type de gouvernance décide qui peut exécuter un agent et avec quelles permissions ; il ne voit pas à quoi chaque Mac se connecte. Au labo : comment une vue par Mac des connexions sortantes d’un agent pourrait compléter une politique d’entreprise.

  Dans l’actualité:AI agent security

• Environnements d’exécution d’agents et hôtes de conteneurs exposés

  Techniques

  Un botnet signalé par ThreatDown installe l’agent open source Hermes Agent sur des hôtes Docker laissés ouverts sur Internet et reçoit ses ordres via Telegram. Le point faible est le service d’administration exposé, pas l’agent, et tout environnement d’exécution d’agent joignable depuis le réseau présente le même risque. Au labo : prévenir l’utilisateur lorsqu’un service de son Mac se met à accepter des connexions venant d’autres machines.

  Dans l’actualité:AI agent security

• Portes dérobées dans des installateurs et images disque clonés sur macOS

  Techniques

  Des rapports décrivent un faux installateur Zoom distribué sous forme d’image disque aux Mac, et Jamf Threat Labs a analysé CloudSyncD, une porte dérobée en deux étapes qui cache un mot de passe obtenu par hameçonnage dans des caractères Unicode de largeur nulle. Un installateur cloné ressemble à la vraie application ; le premier signe visible est donc souvent l’endroit où le nouveau processus se connecte. Au labo : signaler une app tout juste installée qui contacte une destination inconnue peu après son premier lancement.

  Dans l’actualité:macOS fake installersmacOS backdoors

Écarter — pas pour l'instant

• Animations d'interface toujours actives dans une appli en arrière-plan

  Techniques

  Des minuteurs qui redessinent chaque image, des pulsations en boucle et un flou animé maintiennent le GPU et le CPU éveillés même quand personne ne regarde. Nous les avons tous supprimés.

• Encodeurs de décision typés, zero-shot (Laya-multilingual MLX)

  Modèles

  Des encodeurs qui répondent à des questions typées (choisir une option, oui/non, note) avec une confiance calibrée, très rapides sur Apple Silicon. Vitesse impressionnante, et ils gèrent bien les orientations simples, mais en zero-shot ils se sont trompés sur la plupart des commandes de pare-feu. Mis de côté pour cette tâche, pas en général.

• Une IA dans le cloud pour décider ce à quoi votre Mac peut se connecter

  Modèles

  Envoyer chaque connexion à une IA distante enverrait aussi votre historique de navigation, et ajouterait un aller-retour réseau à chaque décision. L'IA de FireAI reste sur le Mac.

  Dans l’actualité:AI chatbot privacyAI chatbot privacy

• Agents IA personnels avec un accès permanent à vos comptes

  Modèles

  Les agents qui réservent, achètent et répondent à votre place fonctionnent mieux avec un accès durable au courrier, aux agendas et aux comptes de paiement. Cet accès survit à chaque tâche. Mis de côté pour nos propres conceptions : l'IA de FireAI répond aux questions sur le Mac et ne détient aucun accès aux comptes.

  Dans l’actualité:Personal AI agent privacyAI assistant security flaws

Ce que nous avons testé, ce que nous avons trouvé

Chaque rapport donne la question, ce que nous avons essayé, les chiffres mesurés et notre conclusion.

Nous publions nos résultats, pas nos recettes : la façon dont FireAI est construit et réglé reste au labo.