كيف صُمِّم جاردرينو: طبقات وسياسات واختبار قبل كل تغيير

صُمِّم جاردرينو كبوابة: ترسل إليه تطبيقاتك ووكلاؤك طلباتهم، فيفحصها ثم يمرّرها إلى نموذج اللغة الذي تختاره، مستضافًا كان أو نموذجك الخاص. ويعود الجواب من الطريق نفسه ويُفحص أثناء ظهوره. فكرتان تحكمان كل شيء: افحص بسرعة أولًا ولا تتعمق إلا عند التباس الرسالة، ولا تعترض طريق المستخدمين العاديين أبدًا.

الطبقة 1: قواعد سريعة على كل رسالة

الطبقة الأولى مجموعة قواعد تعمل على كل رسالة في الاتجاهين، في جزء ضئيل من الوقت الذي يستغرقه النموذج ليجيب. وهي تتعامل مع ما يُعرف من شكله:

• الأسرار: مفاتيح الواجهات البرمجية والرموز وكلمات المرور الملصقة في محادثة أو الظاهرة في جواب.
• البيانات الشخصية الخليجية، مُتحقَّقًا منها لا مُخمَّنة: الهوية الإماراتية، والهوية السعودية أو الإقامة، وأرقام IBAN الخليجية (بالتحقق من خانات mod-97 ^[1])، وأرقام الهواتف والبطاقات.
• قوائمك الخاصة: كلمات وأسماء تُحجب، وقيم مقبولة دائمًا (رقم الدعم لديك)، وقواعد تُعطَّل لتطبيق بعينه.

قبل أي فحص يُنظَّف النص حتى لا تُخفي حيلة في الكتابة كلمة ما. وهذه الخطوة تراعي العربية منذ البداية:

• التشكيل، أي علامات الحركات في العربية ^[2]، والتطويل، أي خط المدّ (ـ) الذي يمدّ الكلمة ^[3]، يُطويان عند المطابقة، فتُقرأ تَجَاهَلْ وتجـــاهل على أنها تجاهل.
• العربيزي، أي العربية المكتوبة بحروف لاتينية وأرقام (3 للعين و7 للحاء) ^[4]، تُقرأ على أنها عربية.
• الحروف المتشابهة والمحارف غير المرئية والترميزات البسيطة تُوحَّد أو تُفكّ، على مبدأ توحيد Unicode ^[5].

هذا التوحيد للمطابقة فقط، لا للحكم. فالعربية المشكولة بالكامل طبيعية في القرآن والشعر والكتب المدرسية، ولذلك لا يُعدّ التشكيل وحده علامة على هجوم أبدًا.

الطبقة 2: مصنِّف صغير يقرر فقط

الطبقة الثانية هي Guardrino-t7، نموذج صغير تدرّبه HisnLabs لمهمة واحدة: الإجابة عن أسئلة محددة حول الرسالة. هل هي محاولة مباشرة للتحكم في المساعد؟ تعليمة مخبّأة في مستند أو نتيجة أداة؟ محاولة لاستخراج موجّه النظام؟ خارج موضوع هذا التطبيق؟ متخفّية في ترميز؟ ويُدرَّب على العربية بالتشكيل ودونه، وعلى العربيزي والإنجليزية.

Guardrino-t7 يصنّف فقط. يقرأ الرسالة مرة واحدة ويعيد درجات، ولا يكتب نصًّا أبدًا. والنموذج الذي لا يولّد شيئًا لا يمكن استدراجه إلى قول ما لا ينبغي، وهذا ما يجعله حكمًا يُعتمد عليه، وخفيفًا بما يكفي ليعمل على كل رسالة تحتاج إليه.

الطبقة 3: مراجعة أعمق عند الالتباس فقط

تُحسم معظم الرسائل في الطبقتين الأوليين. والقلة التي تبقى ملتبسة تذهب إلى نموذج حماية أكبر يراجع المعنى: ما المطلوب حقًّا، وهل تتجه المحادثة بمجملها إلى ما لا تسمح به السياسة. وحصر هذه الخطوة في الحالات الملتبسة هو ما يجعل التصميم دقيقًا وسريعًا للجميع في آن.

خمسة إجراءات، لا إجراء واحد

هذا السلّم هو ما يُبقي المساعد مفيدًا: العميل الذي ألصق رقم هويته يحصل على جوابه، فقط دون أن ينكشف الرقم.

السياسات كشيفرة

لكل تطبيق سياسته: أي الفحوص مفعّلة، وأي إجراء يُطبَّق على ماذا، وأي الكلمات والقيم في قوائمه. ومن المخطط أن تُحفظ السياسات كملفات بإصدارات، فيكون لكل تغيير تاريخ، ويمكن مقارنته بالإصدار السابق والتراجع عنه. ويمكن أيضًا كتابة السياسات بلغة بسيطة عبر مساعد؛ والدرس التالي يشرح ذلك خطوة بخطوة.

لوحة اختبار قبل كل نشر

تغيير السياسة تغيير لسلوك ذكائك الاصطناعي، ولذلك يعامله التصميم كإصدار برمجي. تحمل كل سياسة حالات اختبارها: رسائل يجب التقاطها، ورسائل عادية يجب أن تمر. وقبل أن تصبح المسودة سارية:

1. تُتحقَّق صحة المسودة، حتى لا يصل خطأ مطبعي إلى بيئة التشغيل.
2. تُشغَّل حالات الاختبار على هذه المسودة بعينها وعلى السياسة السارية جنبًا إلى جنب، فترى ما يلتقطه التغيير وما سيُعلّم عليه من جديد.
3. لا يتم النشر إلا إذا نجحت كل الحالات، أو أقرّ أحدهم بحالة فاشلة مع سبب مكتوب يُحفظ في سجل التدقيق.
4. يمكن أن يبدأ في وضع المراقبة فقط: يسجّل جاردرينو ما كان سيفعله على الحركة الحقيقية دون أن يحجب شيئًا، فتضبط بالأدلة قبل التطبيق.

سجل تدقيق يمكنك عرضه

من المخطط تسجيل كل قرار وكل تغيير: ما الذي فُحص، وأي قاعدة تصرّفت، وأي إصدار من السياسة كان ساريًا، ومن غيّره ولماذا. وتُخفى البيانات الشخصية في السجلات. والسجلات مصممة لتغذية أدوات فريق الأمن لديك، فينضم الذكاء الاصطناعي إلى المراقبة التي تملكها أصلًا.

النموذج الأولي لوحدة التحكم

أنجزت HisnLabs نموذجًا أوليًا عاملًا لوحدة تحكم المسؤولين، بالعربية والإنجليزية والفرنسية، مع تخطيط كامل من اليمين إلى اليسار. يعرض الشاشات المخطط لها: محرر السياسات بإصداراتها، واختبارات القواعد وبوابة النشر، والمساعد بلغة بسيطة، وساحة تجربة للرسائل، وقائمة مراجعة، وتتبّع الحوادث، وإعدادات التطبيقات واتصالات النماذج والمستخدمين وسجل التدقيق. يعمل على بيانات نموذجية؛ إنه نموذج أولي، لا منتج يمكن استخدامه اليوم.

لترى التصميم وهو يعمل، زر صفحة جاردرينو، حيث يمكن للشركات أيضًا طلب الانضمام إلى البرنامج التجريبي.