HisnLabs, l'entreprise qui édite FireAI, développe Guardrino, une passerelle de garde-fous destinée aux entreprises du Moyen-Orient qui utilisent des grands modèles de langage en arabe et en anglais. Guardrino doit se placer entre le personnel d'une entreprise, ses agents IA et les modèles qu'ils appellent, et contrôler chaque message dans les deux sens [1]. Le produit est en développement : il n'existe ni version publique, ni prix, ni date de sortie, et HisnLabs recherche un petit nombre d'organisations pilotes. Les éléments ci-dessous proviennent de la page produit de Guardrino et décrivent une conception prévue, pas des résultats testés.
Contexte
Une entreprise qui relie un assistant, un chatbot ou un agent à un modèle de langage ouvre un nouveau chemin aux données, dans les deux sens : le texte saisi par le personnel, les documents lus par un agent et les réponses renvoyées passent tous par le modèle. L'OWASP GenAI Security Project place l'injection de prompt au premier rang des risques pour les applications LLM. Il la définit comme une vulnérabilité qui survient lorsque des prompts modifient le comportement ou la sortie d'un modèle de manière imprévue, et indique que, du fait de la nature stochastique des modèles, on ignore s'il existe des méthodes de prévention infaillibles [2]. HisnLabs estime que de nombreux filtres de garde-fous apprennent surtout à partir de l'anglais, si bien que les dialectes du Golfe et d'Égypte, le mélange d'arabe et d'anglais, les lettres d'apparence semblable et l'arabizi (l'arabe écrit en lettres latines) leur échappent, ou font bloquer par erreur des messages arabes ordinaires [1].
Ce que décrit HisnLabs
Selon la page produit, Guardrino est conçu comme une succession de contrôles. Une première étape défait les astuces qui cachent du texte aux filtres : caractères invisibles, lettres d'apparence semblable, encodages cachés, lettres étirées et arabizi. Des contrôles rapides recherchent ensuite les données personnelles courantes dans le Golfe, comme les numéros d'identité émiratis et saoudiens, les IBAN et les numéros de téléphone, ainsi que les clés et mots de passe divulgués. Des contrôles adaptés à la langue recherchent les injections de prompt et les tentatives de vol de données en anglais, en arabe et dans ses dialectes, et un examen approfondi n'intervient que pour les rares messages qui restent ambigus [1].
Chaque message doit recevoir un score de risque plutôt qu'un oui ou un non. Une politique propre à chaque entreprise transforme ce score en l'une de cinq issues : autoriser, masquer, avertir, demander à l'utilisateur de reformuler ou bloquer. Le masquage remplace les données personnelles par un marqueur avant que le modèle ne les voie, puis remet la vraie valeur dans la réponse, de sorte que la valeur elle-même n'est pas envoyée au fournisseur du modèle. HisnLabs décrit aussi le contrôle des réponses pendant leur diffusion, des documents et pages web lus par les agents et des appels d'outils qu'ils effectuent, et inscrit la voix et les images parmi les étapes ultérieures de sa feuille de route [1].
Deux modes d'exploitation sont prévus : une passerelle gérée hébergée aux Émirats arabes unis, et une installation hors ligne sur les serveurs de l'entreprise, sans connexion extérieure, pour les banques, les administrations et les autres organisations qui ne peuvent pas laisser sortir leurs données. Le programme pilote comprend un court échange sur les applications IA, les langues et les règles de l'organisation, un essai en simple observation sur son propre trafic, et un rapport de ce que Guardrino aurait masqué, signalé ou bloqué [1].
Conséquences pour les organisations
L'annonce concerne les organisations des Émirats arabes unis et du Golfe qui exploitent, ou prévoient d'exploiter, des applications ou des agents IA pour un personnel et une clientèle arabophones : banques, assureurs, opérateurs de télécommunications, établissements de santé et organismes publics. Guardrino ne peut pas être déployé aujourd'hui. Une organisation qui a besoin de garde-fous maintenant doit s'appuyer sur d'autres outils et sur ses propres contrôles, et peut voir le programme pilote comme un moyen d'observer le comportement d'un garde-fou sur son propre trafic arabe et anglais avant toute décision [1].
Recommandations
- Recensez les applications et agents IA que votre organisation exploite ou prévoit, les langues et dialectes de vos utilisateurs, et les données personnelles qui pourraient atteindre un modèle.
- Testez tout garde-fou sur vos propres messages courants en arabe et en anglais, y compris l’arabizi et les textes mêlant les deux langues, et comptez les messages ordinaires qu’il bloque aussi soigneusement que les attaques qu’il arrête.
- Préférez le masquage au blocage lorsque la demande est légitime, afin que les utilisateurs obtiennent tout de même une réponse.
- Pour participer au programme pilote de Guardrino, demandez un accès anticipé sur la page produit.
Lien avec FireAI
Guardrino et FireAI interviennent à des niveaux différents. FireAI est un pare-feu réseau pour un Mac : il reconnaît des agents IA comme Claude Code, Cursor et OpenClaw, apprend où chacun se connecte habituellement et signale une destination inédite ou un pic d'envoi à l'utilisateur, sans lire le contenu du trafic [3]. Il ne lit ni les prompts ni les réponses, ne détecte pas l'injection de prompt dans un texte et ne masque pas les données personnelles. Guardrino est prévu pour agir sur le contenu des messages échangés avec un modèle, à l'échelle d'une organisation.
Limites
Toutes les capacités décrites ici sont prévues et proviennent de la page de l'éditeur lui-même ; aucune n'a été publiée ni testée de façon indépendante, et HisnLabs ne fait état d'aucun client ni d'aucun résultat mesuré. La page produit fixe un objectif de conception pour les messages ordinaires bloqués par erreur et précise que c'est le programme pilote qui permettra de le mesurer [1]. La conception peut évoluer pendant le pilote, et les fonctions inscrites à la feuille de route peuvent arriver plus tard, ou pas du tout.
Les entreprises intéressées par le programme pilote peuvent demander un accès anticipé à Guardrino, par HisnLabs. Les utilisateurs de Mac peuvent essayer FireAI, par HisnLabs gratuitement pendant 17 jours.