أتاحت HisnLabs على موقعها عرضًا تجريبيًا مباشرًا لـ Guardrino-t7 Open، يعمل فيه المصنِّف داخل متصفح الزائر [1]. أما النموذج نفسه، وهو نسخة سابقة حلّت محلها نسخ أحدث من المصنِّف الموجود في Guardrino، فمتاح للعموم على Hugging Face برخصة Apache-2.0 [2]. وتذكر الشركة أيضًا أن نسخة سادسة من نماذجها الداخلية قيد التدريب، وأنه لا نتائج لها بعد [3].
الخلفية
يحتل حقن الأوامر المرتبة الأولى، LLM01، في قائمة OWASP Top 10 لتطبيقات النماذج اللغوية الكبيرة، إصدار 2025. وتصفه OWASP بأنه مدخلات من المستخدم تغيّر سلوك النموذج أو مخرجاته بطرق غير مقصودة، وتشير إلى أنه قد يصل أيضًا عبر محتوى خارجي مثل المواقع أو الملفات [4]. ويقيّم Guardrino-t7 Open رسالة واحدة بحثًا عن حقن الأوامر ومحاولات كسر القيود بالإنجليزية والعربية والعربيزي، أي العربية المكتوبة بحروف لاتينية وأرقام [2].
ما تصفه HisnLabs
بحسب صفحة العرض التجريبي، يُنزَّل النموذج وملف الترميز مرة واحدة من خادم HisnLabs، نحو 118 ميغابايت لملف النموذج، ثم يبقيان في المتصفح. ويعمل النموذج عبر WebAssembly بواسطة onnxruntime-web، ولا يُرسَل النص المكتوب في الصفحة إلى أي مكان [1]. ويُطابَق كل ملف مُنزَّل مع بصمته المنشورة قبل استخدامه، ويتيح وضع متقدم ضبط العتبة وتعليمات النظام وسياسة بسيطة وفحص الرسائل دفعة واحدة [3].
تعرض بطاقة النموذج النتائج مع فترات ثقة 95 من 100 محسوبة حسب العائلة، حتى لا تُعدّ نسخ الهجوم الواحد وترجماته اختبارات مستقلة. وعند نقطة التشغيل التي تُعلَّم فيها خطأً نحو رسالة اختبار بريئة واحدة من كل 100، تذكر البطاقة رصد 44.8 في المئة من الهجمات الإنجليزية (41.9 إلى 47.9)، و69.2 في المئة بالحروف العربية، و29.5 في المئة بالعربيزي المكتوب بشكل طبيعي (14.0 إلى 44.9)، ويستند الرقم الأخير إلى 71 هجومًا [2].
وفي مقال مرافق، تصف HisnLabs مشكلات كشفتها مراجعتها الذاتية. فقد بالغ تقريرها الداخلي عن نسخة خامسة في حجم التحسّن، ونماذجها لا تقرأ إلا أول 256 رمزًا من الرسالة، فقد يبقى هجوم موضوع في آخر نص طويل دون قراءة. وصار العرض التجريبي يقرأ الرسائل الطويلة في نوافذ متداخلة افتراضيًا ويذكر ذلك تحت النتيجة. وتتدرّب النسخة السادسة على هجمات أكثر من مجموعات عامة لاختبارات الاختراق الهجومية تسمح تراخيصها بالتدريب التجاري، وعلى عربية بريئة أكثر من لهجات عدة، وعلى هجمات مخفية في نصوص أطول، مع مصادر محجوبة للاختبار [3].
ما يعنيه ذلك للمؤسسات
تستطيع الفرق التي تشغّل مساعدات ذكاء اصطناعي لمستخدمين ناطقين بالعربية، أو تخطط لذلك، أن تستخدم العرض التجريبي لترى كيف يتعامل مصنِّف مفتوح مع نماذج من رسائلها، بما فيها اللهجات والعربيزي، دون إرسال تلك الرسائل إلى أي خادم [1]. يعرض العرض التجريبي نموذجًا سابقًا بنقاط ضعف موثّقة، وليس Guardrino، الذي ما زال قيد التطوير ولا يُتاح إلا عبر برنامج تجريبي [5].
التوصيات
- اختبر أي أداة حماية على رسائلك اليومية بالعربية والعربيزي والإنجليزية، واحسب الرسائل المحظورة خطأً بالعناية نفسها التي تحسب بها الهجمات الفائتة.
- تحقّق من طريقة تعامل أداة الحماية مع المستندات الطويلة والنصوص الملصقة، لا مع الرسائل القصيرة فقط.
- اقرأ حدود بطاقة النموذج قبل الاعتماد على نموذج مفتوح، ولا تعتمد عليه وحده.
- يمكن للشركات التي تريد تجربة Guardrino على حركة بياناتها طلب مكان في البرنامج التجريبي من صفحة المنتج.
صلة ذلك بـ FireAI
يعمل FireAI وGuardrino على طبقتين مختلفتين. FireAI جدار حماية شبكي لجهاز Mac واحد: يتعرّف على وكلاء الذكاء الاصطناعي مثل Claude Code وCursor، ويتعلّم أين يتصل كل منهم عادةً، وينبّه المستخدم إلى أي وجهة جديدة، دون قراءة محتوى حركة البيانات [6]. وهو لا يقرأ الأوامر ولا يكشف حقن الأوامر في النصوص. أما Guardrino-t7 Open وGuardrino فيعملان على نص الرسائل نفسها.
الحدود
الأرقام أعلاه مأخوذة من بطاقة النموذج التي نشرتها HisnLabs نفسها، ولم تُكرَّر بشكل مستقل. ومعظم بيانات الاختبار مترجمة أو كتبتها نماذج لغوية أو حُوِّلت بقواعد آلية. والنموذج المفتوح يقرأ رسالة واحدة في كل مرة، وليس نموذجًا لسلامة المحتوى، ولم يُدرَّب على الفرنسية ولا على أي لغة غير العربية والإنجليزية. ولا توجد بعد أي نتائج للنسخة السادسة [2] [3].
يمكن للشركات المهتمة بالبرنامج التجريبي طلب الوصول المبكر إلى Guardrino، من HisnLabs. ويمكن لمستخدمي Mac تجربة FireAI من HisnLabs مجانًا لمدة 17 يومًا.