Aller au contenu

Retour à Guardrino

Essayez Guardrino dans votre navigateur

Essayez de piéger Guardrino.

Attaquez-le dans votre navigateur, en anglais, en arabe ou en arabizi. Le modèle ouvert tourne sur votre appareil : rien de ce que vous tapez n’est envoyé.

Lancer la démo · Parlons de Guardrino pour votre application · Docs développeurs

Guardrino-t7 Open, une version antérieure et ouverte de notre classifieur, évalue un message pour repérer les tentatives d’injection de prompt et de jailbreak, en anglais, en arabe et en arabizi. Ici, il tourne sur votre appareil.

Ce qui se passe sur cette page

  • Le modèle tourne sur votre appareil, dans cette page. Hugging Face héberge le modèle ouvert ; cette page en télécharge la copie depuis le serveur de HisnLabs et vérifie que chaque fichier est bien celui publié.
  • Ce que vous tapez ne quitte jamais votre appareil : rien n’est envoyé à HisnLabs ni ailleurs.
  • Les seules requêtes réseau de la démo sont les téléchargements des fichiers du modèle depuis cdn.hisnlabs.com. Le comptage habituel des visites du site est à part et ne contient jamais ce que vous tapez.

Essayez Guardrino dans votre navigateur

Le modèle n’est pas encore sur cet appareil. Il se télécharge une seule fois (118 Mo, plus un fichier de tokenizer de 17 Mo), puis reste dans ce navigateur pour vos prochaines visites.

Limites

  • Il lit au plus 256 tokens d’un message, à partir du début. Un message plus long est coupé, et une attaque placée après la coupure peut passer.
  • C’est une démo de Guardrino-t7 Open, un ancien modèle ouvert. Ce n’est pas la passerelle Guardrino, en développement, qui ajoute d’autres contrôles.
  • Il se trompe dans les deux sens : il laisse passer certaines attaques et bloque certains messages normaux.
  • Il couvre l’anglais, l’arabe en écriture arabe et l’arabizi. Pas le français : ses scores sur d’autres langues ne veulent rien dire.
  • Il vérifie un message à la fois, sans la conversation.

Les résultats mesurés et la liste complète des limites figurent dans la fiche du modèle.

Comment ça marche

  1. Un petit modèle, un fichier

    Guardrino-t7 Open est un petit classifieur MiniLM, exporté en ONNX avec des poids sur 8 bits : environ 118 Mo. Il est publié dans le dépôt Hugging Face Hisnlabs/guardrino-t7-open ; cette page utilise la copie, par HisnLabs, d’une version précise de ce dépôt.

  2. Votre navigateur l’exécute

    onnxruntime-web fait tourner le modèle en WebAssembly, dans un worker en arrière-plan, pour que la page reste fluide. Le tokenizer tourne en JavaScript.

  3. Gardé pour la prochaine fois

    Les fichiers sont rangés dans le Cache API de ce navigateur : votre prochaine visite démarre sans téléchargement. Vous pouvez les supprimer en mode avancé.

Référence développeur · Guide d’installation · Plateformes d’IA · Fiche du modèle ouvert · La même démo sur Hugging Face