Dans tout le Golfe, banques, opérateurs télécoms, hôpitaux et services publics offrent à leurs clients des assistants IA qui répondent en quelques secondes, à toute heure. C’est l’une des évolutions les plus enthousiasmantes dans la façon dont les gens y sont servis. Nous voulons que ces assistants inspirent confiance aux entreprises qui les exploitent et plaisent à ceux qui les utilisent. C’est pour cela que nous, l’équipe HisnLabs à l’origine de FireAI, construisons Guardrino : un pare-feu IA conçu dès la première ligne pour l’arabe et l’anglais, et pour les règles de protection des données de la région.
Cette note explique ce que nous avons constaté, ce que nous construisons, ce que nous n’affirmerons pas avant de l’avoir mesuré, et comment une entreprise peut contribuer à façonner le produit.
Ce que nous avons vu : ici, on écrit dans plusieurs langues à la fois
Un client à Dubaï peut commencer en dialecte du Golfe, passer à l’anglais pour un nom de produit et finir en arabizi, l’arabe écrit avec des lettres latines et des chiffres, où 3 remplace ع et 7 remplace ح, que l’on utilise tous les jours dans les messageries et les SMS [1]. Une élève à Riyad peut coller un vers entièrement vocalisé pour qu’un assistant scolaire le lui explique ; l’arabe s’écrit le plus souvent sans ces signes, mais ils sont la norme dans le Coran, la poésie et le matériel pédagogique [2]. Ce n’est pas un cas marginal. C’est ainsi que la région communique.
Les outils publics qui servent à tester les garde-fous n’ont pas été construits autour de cette réalité. GuardBench, l’une des collections les plus larges, rassemble 40 jeux de données de sécurité, et ses auteurs y ont ajouté de nouvelles données de modération en allemand, français, italien et espagnol [3]. Les tests d’injection de prompt de CyberSecEval existent sous forme d’un fichier anglais et d’un fichier multilingue traduit automatiquement [4]. Les deux sont précieux, et nous les utilisons. Aucun ne couvre le dialecte du Golfe ou l’arabizi tels que les gens les écrivent vraiment. Un garde-fou mesuré seulement en anglais ne peut pas promettre grand-chose à un client arabophone, dans un sens comme dans l’autre : il peut manquer une manipulation rédigée en dialecte, ou refuser une question parfaitement ordinaire parce qu’elle lui paraît inhabituelle.
Ce que nous avons vu : des règles qui demandent où vont les données
La seconde raison est réglementaire. Aux Émirats arabes unis, le décret-loi fédéral n° 45 de 2021, en vigueur depuis le 2 janvier 2022, encadre le traitement des données personnelles et fixe les conditions du transfert et du partage transfrontaliers de ces données [5]. L’Arabie saoudite a promulgué sa loi sur la protection des données personnelles le 16 septembre 2021, sous l’égide de la SDAIA [6]. Pour une entreprise qui envoie les messages de ses clients à un modèle d’IA hébergé à l’étranger, ces règles transforment un choix technique en question juridique.
Un garde-fou pour cette région doit donc faire deux choses à la fois : tenir les données personnelles, comme les numéros d’identité émiriens et saoudiens ou les IBAN, à l’écart du fournisseur du modèle, et fonctionner là où l’entreprise en a besoin.
Ce que Guardrino est conçu pour faire
Guardrino est prévu comme une passerelle entre les équipes d’une entreprise, ses agents IA et n’importe quel LLM. Tout ce qui figure dans cette liste relève de la conception, pas d’une fonction disponible.
- Lire l’arabe tel qu’il s’écrit : arabe standard moderne, dialectes du Golfe et d’Égypte, arabizi et arabe mêlé d’anglais, avec diacritiques, lettres étirées et caractères sosies normalisés avant tout contrôle.
- Contrôler chaque message en couches : des contrôles rapides pour les cas clairs, un petit classifieur attentif à la langue pour la manipulation, et un examen approfondi seulement pour les rares messages encore ambigus.
- Masquer les données personnelles du Golfe, vérifiées par leur structure et leurs chiffres de contrôle, avant que le modèle ne les voie, puis remettre la vraie valeur dans la réponse.
- Laisser votre politique choisir entre cinq issues, autoriser, masquer, avertir, demander de reformuler ou bloquer, par application et par équipe, pour que les utilisateurs normaux ne soient pas éconduits.
- Inspecter ce que lisent les agents, comme les documents et les résultats d’outils, puisque l’OWASP range l’injection venue de sources externes, sites web ou fichiers, dans le même risque [7].
- Fonctionner aux Émirats arabes unis comme passerelle hébergée, ou entièrement à l’intérieur de votre propre réseau en installation hors ligne.
Le détail des couches se trouve dans notre guide des garde-fous IA, et la façon dont Guardrino est conçu pour satisfaire les utilisateurs légitimes dans des garde-fous IA qui ne gênent pas vos utilisateurs.
Ce que nous n’affirmerons pas avant de l’avoir mesuré
Guardrino est en développement. Il n’existe encore ni version publique, ni prix, ni date de sortie, ni client, et nous ne publions pas de chiffres de performance pour un produit qui n’est pas sorti. La page Guardrino comporte une section de résultats mesurés qui reste vide à dessein. Elle ne se remplira qu’une fois qu’une version aura été testée sur des jeux de tests publics et sur notre propre jeu réservé en arabe et en anglais, chaque chiffre publié avec le nombre de messages qui le fonde et sa marge de confiance. Nous avons décrit cette méthode publiquement : tester un garde-fou IA avec des jeux de tests publics. Vous pouvez nous y tenir, et l’appliquer à n’importe qui d’autre.
Nous pensons que c’est la manière confiante de construire un produit de sécurité. Un acheteur qui peut vérifier la méthode n’a pas besoin de nous croire sur parole.
Comment une entreprise peut rejoindre le pilote
Nous recherchons un petit nombre d’entreprises aux Émirats et dans le Golfe qui exploitent, ou prévoient d’exploiter, des applications ou des agents IA en arabe et en anglais. Le pilote est conçu pour être sans risque pour vous.
- Un court échange sur vos applications IA, vos langues et vos règles.
- Un essai en simple observation sur votre propre trafic, dans notre cloud aux Émirats ou à l’intérieur de votre réseau. Guardrino enregistre ce qu’il aurait fait et ne bloque rien.
- Un rapport de ce que Guardrino aurait masqué, signalé ou bloqué, que nous examinons avec vous.
- Vos retours décident de ce qui sortira en premier, y compris l’option de déploiement prioritaire.
Si cela ressemble à votre équipe, consultez la page Guardrino pour découvrir la conception prévue et la démonstration qui s’exécute dans le navigateur, ou allez directement à demander un accès anticipé. Nous serons heureux d’apprendre comment écrivent vos clients.
Le rôle de Guardrino et de HisnLabs
Guardrino est en développement, et le programme pilote est la seule façon de l’utiliser en avant-première. La simulation ci-dessous montre le type de messages pour lesquels il est conçu : de l’arabe, de l’arabizi et les données personnelles que les habitants du Golfe saisissent chaque jour.