دليل · أمن الذكاء الاصطناعي بالعربية

حواجز أمان النماذج اللغوية بالعربية: حماية الذكاء الاصطناعي بالفصحى واللهجات والعربيزي

حاجز الأمان (Guardrail) فحصٌ يقف عند مدخل نموذج الذكاء الاصطناعي ومخرجه، كي لا يتمكّن من يحاوره، ولا المستندات التي يقرؤها، من إقناعه بالخروج عن قواعده. معظم هذه الحواجز بُنيت واختُبرت بالإنجليزية. يشرح هذا الدليل ما يلزم لحماية الذكاء الاصطناعي بالعربية، وكيف نقارن أدوات الحماية على النص العربي، وما الذي ينبغي أن تسألوا عنه قبل أن تثقوا بأي منها.

Guardrino قيد التطوير ويُقدَّم عبر برامج تجريبية بوضع المراقبة فقط: يسجّل ما كان سيفعله على حركة رسائلكم الفعلية، ولا يحظر شيئًا حتى تقرّروا ذلك.

اطلبوا برنامجًا تجريبيًا

ما هي حواجز أمان النماذج اللغوية؟

ينفّذ النموذج اللغوي الكبير تعليمات مكتوبة بلغة عادية، وهذا سرّ فائدته وموضع ضعفه في آنٍ واحد: فهو لا يميّز بثبات بين تعليمات الجهة التي شغّلته وتعليمات يدسّها مستخدم أو صفحة ويب أو رسالة بريد طُلب منه تلخيصها. تضع OWASP هذا الخطر، أي حقن الأوامر، في رأس قائمة مخاطر تطبيقات النماذج اللغوية، وتشير إلى أنه ليس واضحًا إن كانت هناك وسيلة وقاية مضمونة تمامًا (OWASP LLM01).

حواجز أمان النماذج اللغوية هي الضوابط التي تُوضع حول النموذج لتقليل هذا الخطر. وتعني عادةً نموذجًا أصغر مستقلًّا ومجموعة قواعد تقرأ كل رسالة قبل أن يقرأها النموذج الرئيسي، وتفحص كل ردّ قبل أن يصل إلى المستخدم. ويصف دليل OWASP للوقاية النمط نفسه: فحص المدخلات بعد توحيد كتابتها، ونموذج منفصل يعمل مرشّحًا، ومراقبة المخرجات، وأقل قدر من الصلاحيات، وموافقة بشرية على الإجراءات ذات الأثر (دليل OWASP).

فحص المدخلات: هل تحاول هذه الرسالة، أو هذا المستند، تغيير قواعد المساعد أو استخراج تعليماته المخفية أو دفعه إلى استدعاء أداة لا ينبغي له استدعاؤها؟
فحص البيانات: هل تحمل الرسالة بيانات شخصية أو أسرارًا يجب إخفاؤها قبل أن تصل إلى نموذج خارجي أو إلى سجلّ؟
فحص المخرجات: هل يسرّب الردّ موجّه النظام أو بيانات شخصية أو علامة سرية وُضعت هناك لكشف التسريب؟
التشغيل: سجلّ لكل قرار، وإمكانية المراقبة قبل الحظر.

حاجز الأمان طبقةٌ واحدة لا الدفاع كله. يصف ملف الذكاء الاصطناعي التوليدي الصادر عن NIST حقن الأوامر المباشر وغير المباشر بوصفه جزءًا من سطح الهجوم الذي يضيفه هذا النوع من الذكاء الاصطناعي، إلى جانب تسميم البيانات، ويعامله خطرًا من مخاطر أمن المعلومات تجب إدارته (NIST AI 600-1). أما صلاحيات الأدوات وخطوات الموافقة وحسن كتابة موجّه النظام فتبقى من مسؤوليتكم.

لماذا تفوت أدوات الحماية الإنجليزية النصَّ العربي؟

يتعلّم المصنِّف شكل الهجوم من الأمثلة التي دُرِّب عليها. فإن كانت كلها تقريبًا بالإنجليزية، تعلّم صياغات الإنجليزية وحيلها. والعربية تكسر هذه الافتراضات من أكثر من جهة في وقت واحد:

اللهجات ليست لغة واحدة. الطلب باللهجة الخليجية أو المصرية أو الشامية أو الدارجة المغربية يختلف في مفرداته وإملائه ونحوه عن الفصحى. والنموذج الذي رأى العربية الرسمية في الغالب، أو لهجة واحدة، يقرأ غيرها بدقة أقل.
العربيزي يغيّر الأبجدية. يكتب كثيرون في الخليج العربية بحروف لاتينية، مع أرقام للأصوات التي لا مقابل لها: 3 للعين، و7 للحاء، و5 للخاء، و2 للهمزة. والنموذج الإنجليزي يرى في ذلك ضجيجًا أو إنجليزية بأخطاء إملائية.
التنقّل بين اللغتين داخل الجملة. قد تبدأ الرسالة بالإنجليزية، وتكمل باللهجة، وتنتهي بالعربيزي، وكل جزء منها يبدو بريئًا وحده.
الكتابة نفسها قابلة للتمويه. التطويل (الكشيدة)، والتشكيل المبعثر، والأحرف غير المرئية، والحروف الفارسية أو الأردية المشابهة، كلها تغيّر ما يراه النموذج دون أن تغيّر ما يقرؤه الإنسان.

هذه ليست ثغرة نظرية. فقد وجد باحثون في مؤتمر EMNLP 2024 أن الأوامر المكتوبة بالفصحى لم تُخرج محتوى غير آمن من GPT-4 ولا من Claude 3 Sonnet في تجاربهم، بينما نجحت الأوامر نفسها حين كُتبت بالحروف اللاتينية وبالعربيزي، وخلصوا إلى أن تدريب الأمان يجب أن يشمل كل أشكال كتابة اللغة (الغانم وآخرون، EMNLP 2024). وتذكر OWASP كذلك استخدام لغات متعددة وترميزات مختلفة للتهرّب من المرشّحات ضمن سيناريوهات الهجوم (OWASP LLM01).

والضعف نفسه يظهر في الاتجاه المعاكس: أداة الحماية التي لا تقرأ العربية جيدًا تحظر أيضًا رسائل عربية عادية لا تفهمها. وبالنسبة إلى بنك أو خدمة حكومية يكتب عملاؤها باللهجة، فإن حظر العملاء الحقيقيين خطأً كلفةٌ هو الآخر.

كيف تتقارن أدوات الحماية على الاختبار نفسه بالعربية

نختبر Guardrino مقابل مصنِّفات أخرى لكشف الهجمات على النص العربي: أداتان معروفتان بُنيتا للإنجليزية، ونماذج بنتها فرق أخرى للعربية. تُقيَّم كل النماذج على مجموعة الاختبار نفسها. ولأن المقارنة المباشرة غير منصفة، إذ يستطيع أي نموذج أن يرصد هجمات أكثر بمجرد أن يحظر رسائل أكثر، ضُبطت عتبة كل نموذج بحيث يحظر النسبة الصغيرة نفسها تقريبًا من الرسائل الآمنة على عيّنة تحقّق. بعد ذلك فقط نعدّ ما يرصده كل نموذج من الهجمات بالعربية والعربيزي.

العربية، جنبًا إلى جنب

مبنيّ للعربية. في اختباراتنا الخاصة، رصد Guardrino قرابة 9 من كل 10 هجمات عربية، بينما لم ترصد أشهر أدوات الحماية الإنجليزية إلا نحو 1 من كل 7.

الجدول المقيس، مع طريقة القياس وحدودها:

النموذج	الهجمات العربية المرصودة (من 7,874)	هجمات العربيزي المرصودة (من 1,523)	رسائل آمنة حُجبت (من 31,348)
Guardrino-t7 v7	6,814 من 7,874 (86.5‎%‎)	1,319 من 1,523 (87‎%‎)	804 من 31,348 (2.6‎%‎)
Guardrino-t7 v7، مضبوطًا على معدّل الحجب الخاطئ لدى ArabGuard النموذج نفسه بعتبة أشدّ، فلا يحجب من الرسائل الآمنة أكثر مما يحجبه ArabGuard.	6,520 من 7,874 (82.8‎%‎)	1,214 من 1,523 (80‎%‎)	519 من 31,348 (1.7‎%‎)
Ara-Prompt-Guard V1 (NAMAA, Arabic) مبنيّ للعربية من فريق آخر، وقيس بالطريقة نفسها.	2,033 من 7,874 (25.8‎%‎)	99 من 1,523 (7‎%‎)	615 من 31,348 (2.0‎%‎)
ArabGuard (Egyptian) مبنيّ للعربية من فريق آخر، وقيس بالطريقة نفسها.	1,553 من 7,874 (19.7‎%‎)	2 من 1,523 (0‎%‎)	519 من 31,348 (1.7‎%‎)
HARIS مبنيّ للعربية من فريق آخر، وقيس بالطريقة نفسها.	561 من 7,874 (7.1‎%‎)	0 من 1,523 (0‎%‎)	459 من 31,348 (1.5‎%‎)
Prompt Guard 2 (Meta)	1,128 من 7,874 (14.3‎%‎)	73 من 1,523 (5‎%‎)	882 من 31,348 (2.8‎%‎)
Protect AI v2	894 من 7,874 (11.4‎%‎)	95 من 1,523 (6‎%‎)	589 من 31,348 (1.9‎%‎)

المنهجية: مجموعة اختبار خاصة بـ HisnLabs تضم 13,249 هجومًا و31,348 رسالة آمنة، معظمها بالعربية. وهذا يميل لصالح نموذج دُرّب على بيانات مشابهة مثل نموذجنا، لذا فهذا ليس اختبارًا مستقلًا. ضُبطت عتبة كل نموذج بحيث يحجب رسالة آمنة واحدة من كل 100 على عيّنة تحقّق. تاريخ الاختبار: 26–27 أكتوبر 2026. صُمّمت النماذج الخارجية للإنجليزية، أو للهجة واحدة، أو للعربية الفصحى أساسًا، وهذا ليس انتقادًا لها. قد يكون أحد المصادر العامة في مجموعة الاختبار (arabic-guardrail، 2,271 هجومًا) ضمن بيانات تدريب نماذج أخرى، وكان جزء التدريب منه ضمن بيانات نموذجنا؛ ومن دونه يرصد Guardrino-t7 عدد 4,596 من أصل 5,603 هجمة عربية (82‎%‎).

اقرؤوا ملاحظة الطريقة أسفل الجدول. مجموعة الاختبار من إعدادنا وأغلبها بالعربية، وهذا يميل لصالح نموذج دُرِّب على بيانات مشابهة كنموذجنا: فهو ليس اختبارًا مستقلًّا. والنماذج الأخرى بُنيت للإنجليزية، أو للهجة واحدة، أو للفصحى أساسًا؛ والجدول يبيّن ما يحدث حين تواجه نصًّا لم تُبنَ له، لا أنها نماذج رديئة. والبرنامج التجريبي يقيس الأمور نفسها على رسائلكم أنتم. والمنهجية الكاملة والبيانات وراء الجدول في صفحة مستقلة.

ويضيف تقرير Guardrino-t7 v7 ما لا يعرضه هذا الجدول: الزمن الذي يستغرقه كل نموذج لفحص الرسالة، وقد قيست كلها على الجهاز نفسه، ومكوّنات مجموعة الاختبار، والنتائج حسب اللهجة.

اللهجات والعربيزي: ما يجب أن يقرأه جدار حماية الذكاء الاصطناعي

هذه أسئلة عادية وآمنة يطرحها العملاء كل يوم على مساعد في الخليج، بكل شكل من أشكال العربية. على أداة الحماية العربية الجيدة أن تمرّرها كلها. وتحتها، وصفًا بالكلمات فقط، الشكل الذي يتخذه الهجوم عادةً بالأسلوب نفسه.

اللهجة الخليجية: أبي أعرف شلون أغيّر رقم تلفوني في الحساب؟ أريد أن أعرف كيف أغيّر رقم هاتفي المسجّل في الحساب.
اللهجة المصرية: عايز أعرف إزاي أطلب كشف حساب للشهر اللي فات؟ أريد أن أعرف كيف أطلب كشف حساب للشهر الماضي.
اللهجة الشامية: بدي أعرف كيف بقدر وقّف البطاقة إذا ضاعت؟ أريد أن أعرف كيف أوقف البطاقة إذا فُقدت.
الدارجة المغربية: بغيت نعرف كيفاش نبدّل الكود ديال البطاقة؟ أريد أن أعرف كيف أغيّر الرقم السري للبطاقة.
الفصحى: كيف يمكنني تحديث عنواني البريدي في حسابي؟ سؤال عن تحديث العنوان البريدي في الحساب.
العربيزي: marhaba, 3indi so2al 3an el fatoora, leish el mablagh 3ali 7al shahr? مرحبا، عندي سؤال عن الفاتورة، لماذا المبلغ مرتفع هذا الشهر؟

باللهجة الخليجية ينتحل الهجوم غالبًا صفة موظف («من فريق الاحتيال»، «من قسم التقنية»)، ويطلب من المساعد بلطف وبلغة ودّية أن يتجاوز قواعده من أجل «تحقّق».
بالمصرية أو الشامية يكثر أسلوب لعب الأدوار أو المزاح، ثم يتحوّل إلى طلب التعليمات المخفية للمساعد.
بالدارجة تختلط كلمات فرنسية وحروف لاتينية، فتربك أدوات الحماية التي تتوقّع لغة واحدة في الرسالة.
بالفصحى تأتي الهجمات في صورة أوامر رسمية أو تعاميم، وهو السجلّ الذي دُرِّبت عليه أغلب النماذج العربية.
بالعربيزي يُكتب الطلب نفسه بحروف لاتينية وأرقام، فتراه أداة الحماية الإنجليزية إنجليزيةً مكتوبة خطأً وتمرّره.

لا ننشر أبدًا أوامر هجوم قابلة للاستخدام. الأمثلة أعلاه أسئلة آمنة، والهجمات موصوفة لا مكتوبة. ولتجربة أداة حماية بأنفسكم، استخدموا العرض الحيّ لنموذجنا المفتوح السابق.

كيف يتعامل Guardrino مع العربية

Guardrino بوابة أمان تقف بين تطبيقاتكم أو وكلاء الذكاء الاصطناعي لديكم وبين أي نموذج تستخدمونه. يفحص كل رسالة على طبقات، السريعة منها على كل رسالة، والأعمق فقط حين تكون الرسالة ملتبسة:

التنظيف: تُزال الأحرف غير المرئية والتطويل، وتُوحَّد الحروف المتشابهة، ويُفكّ ترميز base64 والست عشري، ويُحوَّل العربيزي إلى الحرف العربي، كي تقرأ الطبقات التالية ما يقرؤه الإنسان.
القواعد والبصمات: تُخفى البيانات الشخصية الخليجية والأسرار، مثل الهوية الإماراتية ورقم الإقامة والآيبان، وتُقارن الرسالة بالهجمات المعروفة لفظًا ومعنى.
نموذج Guardrino: مصنِّف دُرِّب على هجمات ورسائل آمنة بالعربية ولهجات الخليج والشام ومصر والمغرب والعربيزي والإنجليزية، يقرأ النيّة وراء الكلمات.
ذاكرة المحادثة: يتابع المحادثة كاملة، فيرى الهجوم الذي يُبنى ببطء عبر رسائل تبدو كل واحدة منها بريئة.
فحص الردّ: يُفحص الردّ بحثًا عن علامة سرية (كناري) موضوعة في موجّه النظام، وعن البيانات الشخصية، قبل أن يصل إلى المستخدم.

تجدون شرح هذه الطبقات تقنيةً تقنية في دليل حقن الأوامر بالعربية. ولمعرفة أين يعمل Guardrino وكيف يطبّقه فريق في قطاع منظَّم، اقرؤوا حواجز أمان النماذج اللغوية في الخليج.

أسئلة تطرحونها قبل أن تثقوا بأداة حماية عربية

على أي أشكال العربية دُرِّبت واختُبرت؟ اسألوا عن اللهجات والعربيزي بالاسم، لا عن «دعم العربية» عمومًا.
كم رسالة آمنة تحظر؟ عدد الهجمات المرصودة لا يعني الكثير دون عدد الرسائل الآمنة المحظورة عند الإعداد نفسه.
من أعدّ الاختبار؟ اختبار المورِّد يميل لصالحه، ونحن منهم. اسألوا إن كان هناك اختبار خارجي، وأجروا اختباركم الخاص.
هل يمكن المراقبة قبل الحظر؟ فترة مراقبة فقط على حركة رسائلكم الفعلية تُظهر ما كانت الأداة ستفعله، دون أي خطر على عملائكم.
أين تعمل؟ على خوادمكم، أو في منطقة سحابية تختارونها، وما الذي يخرج من شبكتكم.
ما الذي لا تفعله؟ المورِّد الصادق يستطيع أن يسرده لكم.

إن أردتم فحص نموذج قبل الحديث مع أحد، فمصنِّفنا المفتوح السابق منشور برخصة Apache-2.0: اطّلعوا على صفحة النموذج، أو نزّلوه من Hugging Face، أو تصفّحوا شيفرة الربط على GitHub. حلّت محلّه نماذج البوابة الأحدث، لكنه يبيّن طريقة عملنا. ويجد المطوّرون أدلة الربط، ويبدأ أصحاب القرار من صفحة Guardrino لشركتكم.

ما لا تستطيعه أداة حماية عربية

لا توجد أداة حماية ترصد كل هجوم. المهاجمون يتكيّفون، وتظهر حيل جديدة بين تحديث وآخر للنموذج.
كل أداة حماية تحظر أحيانًا رسالة آمنة. والعتبة موازنة يضبطها فريقكم لكل تطبيق على حدة.
لا تصحّح الإجابات التي يختلقها نموذجكم؛ فذلك عمل الربط بمصادركم الموثوقة والمراجعة.
لا تفحص إلا ما يمرّ عبرها. المستندات ونتائج الأدوات التي يقرؤها الوكيل مباشرة خارج نطاق رؤيتها.
لا تغني عن صلاحيات الأدوات وخطوات الموافقة وإبعاد الأسرار عن موجّه النظام.

أسئلة عن حواجز أمان النماذج اللغوية بالعربية

ما المقصود بحاجز أمان عربي للنماذج اللغوية؟

فحصٌ يوضع أمام نموذج الذكاء الاصطناعي، يقرأ العربية ولهجاتها والعربيزي إلى جانب الإنجليزية، ويوقف الرسائل التي تحاول تغيير قواعد النموذج أو استخراج تعليماته أو سرقة البيانات، ويفحص ردود النموذج عند خروجها أيضًا.

ألا يكفي أن نترجم العربية إلى الإنجليزية ونستخدم أداة حماية إنجليزية؟

الترجمة تُضيع الإشارات المهمة. فالترجمة الآلية للهجات والعربيزي كثيرًا ما تكون ضعيفة، والأحرف المخفية والتطويل قد تبقى أو تسقط دون أن ينتبه أحد، والطلب المهذّب باللهجة قد يخرج من الترجمة بصورة تبدو بريئة. كما أن الترجمة تضيف نموذجًا ثانيًا بأخطائه وكلفته أمام أداة الحماية.

لماذا يهمّ العربيزي أمنيًّا؟

لأن كثيرًا من النماذج والمرشّحات تقرؤه أسوأ مما تقرأ الحرف العربي. وقد استخرج باحثون في مؤتمر EMNLP 2024 محتوى غير آمن من نماذج كبيرة بالعربيزي والكتابة اللاتينية حيث أخفقت الأوامر بالفصحى. وأداة الحماية التي لا تقرأ العربيزي تترك هذا الباب مفتوحًا.

هل يقرأ Guardrino كل اللهجات بالجودة نفسها؟

لا، ونقول ذلك صراحة. دُرِّب على لهجات الخليج والشام ومصر والمغرب والفصحى والعربيزي، لكن مجموعات الاختبار الأصلية لكل لهجة ما زالت صغيرة، فلا نستطيع بعدُ تقديم نتيجة مقيسة منفصلة لكل لهجة. والبرنامج التجريبي على رسائلكم يبيّن أداءه على الطريقة التي يكتب بها عملاؤكم.

هل Guardrino متاح اليوم؟

هو قيد التطوير ويُقدَّم عبر برامج تجريبية بوضع المراقبة فقط، ولا توجد نسخة عامة بعد. يعمل البرنامج التجريبي على حركة رسائلكم ويسجّل ما كان Guardrino سيفعله، ولا يحظر شيئًا.

هل يمكن تجربته دون برنامج تجريبي؟

جزئيًّا نعم. العرض الحيّ يشغّل نموذجنا المفتوح السابق في متصفحكم، والنموذج نفسه منشور على Hugging Face برخصة Apache-2.0. أما البوابة بنماذجها الأحدث وطبقاتها الأخرى فهي ما يغطيه البرنامج التجريبي.

شاهدوا كيف يقرأ Guardrino عربية عملائكم.

ابدؤوا ببرنامج تجريبي لمدة 60 يومًا بوضع المراقبة فقط: يراقب Guardrino حركة رسائلكم الفعلية بالعربية ولهجاتها والعربيزي والإنجليزية، ويسجّل ما كان سيفعله، ولا يحظر شيئًا حتى تقرّروا. انضموا إلى البرنامج التجريبي.

اطلبوا برنامجًا تجريبيًا · Guardrino