Glossaire : les termes des garde-fous IA en anglais, en arabe et en français

Les mots que vous rencontrerez en choisissant ou en exploitant un garde-fou IA, du tashkeel et de l’arabizi à l’injection de prompt, aux faux blocages et aux intervalles de confiance, chacun avec son nom en arabe et en anglais et une explication simple.

Les équipes qui choisissent et exploitent des garde-fous travaillent souvent en plusieurs langues : la politique se discute en arabe, le fournisseur écrit en anglais, les recommandations du régulateur arrivent en français ou en anglais. Ce glossaire donne à chaque terme son nom usuel dans les trois langues et une phrase simple d’explication, pour que tout le monde parle de la même chose.

Français	English	العربية	Ce que cela veut dire
garde-fou	Guardrail	حاجز حماية	Un point de contrôle entre les personnes ou les agents et un modèle d’IA, qui applique les règles de l’organisation à ce qui entre et à ce qui sort.
contrôle en entrée / en sortie	Input check / output check	فحص المدخلات / فحص المخرجات	Le contrôle en entrée examine ce qui est envoyé au modèle (messages, documents, résultats d’outils) ; le contrôle en sortie examine la réponse, idéalement pendant qu’elle s’affiche.
injection de prompt	Prompt injection	حقن الأوامر	Un texte qui tente de remplacer les instructions d’une application d’IA par celles de l’attaquant.
injection de prompt indirecte	Indirect prompt injection	حقن الأوامر غير المباشر	Une injection de prompt cachée dans un contenu que l’IA lit pour quelqu’un : document, page web, e-mail, résultat d’outil ou message d’un autre agent.
jailbreak (contournement)	Jailbreak	كسر القيود	Une technique pour faire abandonner au modèle son comportement de sécurité : jeu de rôle, cadre fictif, texte encodé, demande répartie sur plusieurs messages.
contenu préjudiciable	Harmful content	محتوى ضار	Une demande ou une réponse contraire à la politique par ce qu’elle dit, sans aucune ruse.
prompt système	System prompt	موجّه النظام	Les instructions cachées qu’une application donne au modèle avant le début de la conversation.
tashkeel (signes voyelles)	Tashkeel	التشكيل	Les signes de voyelles brèves et de prononciation de l’arabe (fatha, damma, kasra, soukoun, chadda). Normaux dans le Coran, la poésie et les manuels ; parfois ajoutés au hasard pour cacher un mot à un filtre.
tatweel (kashida)	Tatweel	التطويل (الكشيدة)	Le trait d’allongement (ـ) qui étire les lettres arabes pour la mise en page, comme dans تجـــاهل. Anodin en typographie, il sert aussi à couper un mot.
arabizi	Arabizi	العربيزي	L’arabe écrit en lettres latines et en chiffres, comme « 7abibi » ou « 3arabi », courant dans les messageries de la région.
normalisation	Normalisation (folding)	التوحيد (التطبيع)	Ramener un texte à une forme standard avant la comparaison : retirer le tashkeel et le tatweel, unifier les lettres sosies et décoder les encodages simples.
données personnelles	Personal data	البيانات الشخصية	Une information qui identifie une personne : Emirates ID, numéro de passeport, IBAN, numéro de téléphone, nom avec adresse.
masquage	Masking	الإخفاء (التقنيع)	Remplacer une donnée sensible par un jeton comme [EMIRATES_ID_1] pour que le modèle ne voie jamais la valeur ; les systèmes de l’organisation peuvent la restaurer.
classifieur	Classifier	مصنِّف	Un modèle qui range un texte dans des catégories et renvoie des scores, sans générer de texte.
score	Score	درجة	Un nombre, généralement de 0 à 1, qui indique la probabilité qu’un message appartienne à une catégorie, comme « attaque ».
seuil	Threshold	العتبة	Le score à partir duquel une action est prise. Choisi sur un jeu de validation séparé, avant le test.
faux blocage	False block	حجب خاطئ	Un message sain arrêté à tort par un garde-fou, aussi appelé faux positif. Moins de faux blocages, ce sont des utilisateurs plus satisfaits.
attaque manquée	Missed attack	هجوم فائت	Une attaque que le garde-fou a laissé passer, aussi appelée faux négatif.
intervalle de confiance	Confidence range	نطاق الثقة	La plage dans laquelle se trouve probablement un taux mesuré, compte tenu du nombre de messages testés. Un petit test donne une plage large.
jeu de test public	Public test set	مجموعة اختبار عامة	Une collection publiée de messages aux réponses connues, qui sert à comparer des garde-fous d’une manière que chacun peut refaire.
jeu de test réservé	Held-out set	مجموعة محجوزة للاختبار	Des messages de test mis de côté et jamais utilisés pour l’entraînement ou le réglage, pour que les résultats reflètent des messages que le modèle n’a pas vus.
red team (équipe rouge)	Red team	الفريق الأحمر	Des personnes ou des outils qui attaquent un système exprès, avec autorisation, pour en trouver les faiblesses avant d’autres.
attaque en plusieurs tours	Multi-turn attack	هجوم متعدد الأدوار	Une attaque répartie sur plusieurs messages, chacun anodin seul, qui monte en intensité ou est réassemblée plus tard.
mode observation	Watch-only mode	وضع المراقبة فقط	Un mode d’essai où le garde-fou enregistre ce qu’il aurait fait sans rien bloquer, pour régler les politiques sur le trafic réel.
politique	Policy	السياسة	Les règles d’une application : quels contrôles sont actifs et quelle action (autoriser, masquer, avertir, demander de reformuler, bloquer) s’applique à quoi.
politique en tant que code	Policy as code	السياسة كشيفرة	Gérer les politiques comme des fichiers versionnés : chaque changement est relu, testé avant le déploiement et peut être annulé.
journal d’audit	Audit log	سجل التدقيق	L’enregistrement de chaque décision et de chaque changement : ce qui s’est passé, sous quelle version de la politique, qui a changé quoi et pourquoi.
agent	Agent	وكيل ذكاء اصطناعي	Un système d’IA qui agit pour quelqu’un : il appelle des outils, navigue sur le web ou envoie des messages.

Trois distinctions à retenir

L’injection de prompt prend le contrôle de l’application ; le jailbreak retire le comportement de sécurité du modèle ; le contenu préjudiciable est une simple demande contraire à la politique.
Un faux blocage vous coûte la confiance d’un utilisateur ; une attaque manquée vous coûte de la sécurité. Un bon garde-fou se mesure sur les deux.
La normalisation du texte (retirer le tashkeel et le tatweel) sert à reconnaître des mots, jamais à juger des personnes : l’arabe vocalisé est de l’arabe normal.

À retenir

Injection de prompt, jailbreak et contenu préjudiciable sont trois problèmes différents, avec des contrôles différents.
Le tashkeel, le tatweel et l’arabizi sont des façons normales d’écrire l’arabe, qu’un garde-fou doit savoir lire.
Les faux blocages et les attaques manquées sont les deux erreurs sur lesquelles se mesure tout garde-fou.
Le seuil est fixé avant le test, et chaque taux est donné avec son intervalle de confiance.

Vérifiez vos connaissances

1. Qu’est-ce que l’arabizi ?
- Un type d’attaque
- De l’arabe écrit en lettres latines et en chiffres — Exact.
- Une police arabe
- Un jeu de test
Par exemple « 3arabi » pour عربي : une écriture courante et normale qu’un garde-fou doit comprendre.
2. Qu’est-ce qu’un faux blocage ?
- Une attaque qui passe
- Un message sain arrêté à tort — Exact.
- Une adresse IP bloquée
- Une réponse lente
Aussi appelé faux positif ; c’est le coût d’un garde-fou.
3. Que fait le mode observation ?
- Il bloque tout
- Il enregistre ce que le garde-fou aurait fait, sans bloquer — Exact.
- Il éteint le garde-fou et efface les journaux
- Il affiche des publicités
Il permet à une équipe de régler ses politiques sur le trafic réel avant de les appliquer.

Sources

Mettez-le en pratique sur votre Mac

Essayez toutes les fonctionnalités gratuitement pendant 17 jours, sans carte bancaire.

Télécharger pour Mac Docs