درس تطبيقي: اختبر أي حاجز حماية قبل أن تثق به

اختيار حاجز الحماية قرار تجاري يستحق الأدلة. والخبر الجيد أن الطريقة بسيطة وتنطبق على كل منتج بالطريقة نفسها، ومنها منتجنا. بعد ظهيرة من التحضير يستطيع فريقك أن يرى كيف يتصرف حاجز الحماية مع نوع حركتك، بلغاتك، قبل أن يقابله أي عميل.

الفكرة وراء كل خطوة

عامِل حاجز الحماية كدالّة: تدخل رسالة فتخرج درجة من 0 إلى 1 تعني «ما احتمال أن يكون هذا هجومًا؟». والعتبة تحوّل الدرجة إلى قرار. ومجموعة الاختبار قائمة رسائل تعرف جوابها الصحيح مسبقًا. شغّل الدالّة على كل رسالة واحسب أمرين:

• الملتقطة: الهجمات التي بلغت درجتها العتبة أو تجاوزتها، من مجموع الهجمات.
• المحجوبة خطأً: الرسائل السليمة التي بلغت درجتها العتبة أو تجاوزتها، من مجموع الرسائل السليمة.

أضف الوقت الذي يستغرقه فحص واحد، على عتاد مذكور، فتحصل على الأرقام الثلاثة المهمة.

أربع قواعد تُبقي الأرقام صادقة

1. لا تختبر أبدًا على ما تدرّب عليه حاجز الحماية. النموذج يحصل على درجات جيدة على رسائل رآها من قبل. اسأل المورّد عن المجموعات العامة التي دخلت في التدريب، واستبعدها من اختبارك.
2. حدّد العتبة قبل النظر في الاختبار. اخترها على مجموعة تحقق منفصلة، ودوّنها، ثم شغّل الاختبار مرة واحدة. تعديل العتبة أثناء النظر في نتائج الاختبار يجمّلها.
3. اعرض الجانبين دائمًا. حاجز الحماية الذي يحجب كل شيء يلتقط كل هجوم. كل رقم «ملتقطة» يحتاج إلى رقم «محجوبة خطأً» بجانبه، مقيسًا على مجموعة فيها رسائل سليمة.
4. قل ما تقيسه كل مجموعة. بعض المجموعات عن المحتوى الضار، وبعضها عن التلاعب، وبعضها لا يضم إلا هجمات. اعرض كل مجموعة على حدة، ولا تدمجها في رقم واحد.

مجموعات اختبار عامة جديرة بالمعرفة

اعرض نطاقًا لا نقطة

معدّل مقيس على 50 رسالة والمعدّل نفسه مقيسًا على 5000 رسالة ليسا ادعاءً واحدًا. اعرض كل معدّل مع n، أي عدد الرسائل وراءه، ومع نطاق ثقة، مثل فترة Wilson ^[4]. وإذا تداخل نطاقا حاجزَي حماية، فالاختبار لم يُثبت أن أحدهما أفضل. وتشرح ورقة Miller حول أشرطة الخطأ في تقييم النماذج كيف تُخطَّط هذه القياسات وتُقارَن ^[5].

اختبر باللغات التي يكتب بها عملاؤك

حاجز الحماية القوي بالإنجليزية قد يتعثر بالعربية. افصل نتائجك حسب شكل الكتابة، لا حسب اللغة فقط:

• العربية كما تُكتب عادة، والعربية بتشكيل صحيح: كلتاهما يجب أن تمر حين تكون سليمة. فالنص المشكول طبيعي في النصوص الدينية والأدبية والمدرسية.
• العربية مع تشكيل أو تطويل مضاف عشوائيًا: الطريقة التي يحاول بها المهاجم التسلل من المرشّح.
• العربيزي، واللهجات التي يستخدمها عملاؤك: الخليجية والمصرية والشامية.
• العربية والإنجليزية ممزوجتين في رسالة واحدة، كما يكتب كثيرون في المنطقة.

طريقتان لإجراء الاختبار

1. قيّم حاجز الحماية وحده: أرسل إليه كل رسالة اختبار وسجّل الدرجة. سريع وقليل الكلفة وسهل التكرار مع كل إصدار جديد.
2. من طرف إلى طرف: شغّل روبوت المحادثة وحده على الهجمات، ثم الروبوت نفسه خلف حاجز الحماية، ودع نموذجًا حَكَمًا يقرر في كل مرة هل خُدع الروبوت. الفرق هو ما يضيفه حاجز الحماية. سمِّ النموذج المستهدف والحَكَم، لأن أخطاء الحَكَم جزء من النتيجة.

ثم جرّبه على حركتك أنت

المجموعات العامة تخبرك كيف يتصرف حاجز الحماية عمومًا؛ وحركتك تخبرك كيف يتصرف معك. شغّله أولًا في وضع المراقبة فقط: يسجّل ما كان سيفعله ولا يحجب شيئًا. راجع ما كان سيحجبه، واضبط السياسة، وطبّق حين تطمئن. وأضف جولة فريق أحمر، أي هجمات آلية على نسخة اختبار من مساعدك، وحوّل كل هجوم ينفذ إلى حالة اختبار جديدة.

أسئلة تطرحها على أي مورّد

• ما مجموعات الاختبار العامة التي استخدمتموها، وهل كان بعضها ضمن بيانات تدريبكم؟
• كيف اخترتم العتبة، وعلى أي بيانات؟
• ما معدّل الحجب الخاطئ، على أي رسائل سليمة، وبأي لغات؟
• على كم رسالة يقوم كل رقم، وما نطاق ثقته؟
• هل يمكننا إعادة الاختبار بأنفسنا؟

يُبنى جاردرينو ليجيب عن كل هذه الأسئلة علنًا: من المخطط أن يأتي كل إصدار مع تقرير على مجموعات اختبار عامة وعلى مجموعة محجوزة خاصة بنا، مع n والنطاقات وقاعدة العتبة، ليتمكن أي أحد من إعادته. جاردرينو قيد التطوير؛ وستعرض صفحته هذا التقرير حين يوجد إصدار حقيقي، ولا تعرض شيئًا حتى ذلك الحين. ولطريقة مقارنة أعمق وعملية، راجع درس Comparing guardrails fairly (بالإنجليزية).