في أنحاء الخليج، تقدّم البنوك وشركات الاتصالات والمستشفيات والخدمات الحكومية لعملائها مساعدات ذكية تجيب في ثوانٍ وفي أي ساعة. إنه من أكثر التحولات إثارة في طريقة خدمة الناس هنا. ونريد لهذه المساعدات أن تحظى بثقة الشركات التي تشغّلها وبمحبة من يستعملونها. لهذا نبني، نحن فريق HisnLabs الذي يقف وراء FireAI، منتج Guardrino: جدار حماية للذكاء الاصطناعي صُمّم منذ سطره الأول للعربية والإنجليزية، ولقواعد البيانات في المنطقة.
تشرح هذه المذكّرة ما رأيناه، وما نبنيه، وما لن ندّعيه قبل أن نقيسه، وكيف تستطيع شركة ما أن تساهم في تشكيله.
ما رأيناه: الناس هنا يكتبون بأكثر من لغة في آنٍ واحد
قد يبدأ عميل في دبي رسالته باللهجة الخليجية، ثم ينتقل إلى الإنجليزية لاسم منتج، ويختم بالعربيزي، أي العربية المكتوبة بالحروف اللاتينية والأرقام، حيث يرمز 3 إلى العين و7 إلى الحاء، وهو الأسلوب الذي يستعمله الناس يوميًا في المحادثات والرسائل النصية [1]. وقد يلصق طالب في الرياض بيتًا مشكولًا ليشرحه له مساعد مدرسي؛ فمعظم العربية تُكتب من غير حركات، لكنها معتادة في القرآن والشعر والمواد التعليمية [2]. هذه ليست حالة هامشية، بل هي طريقة كلام المنطقة.
ولم تُبنَ الأدوات العامة لاختبار ضوابط الحماية حول هذا الواقع. فـ GuardBench، وهي من أوسع المجموعات، تضم 40 مجموعة بيانات للسلامة، وأضاف مؤلفوها بيانات إشراف جديدة بالألمانية والفرنسية والإيطالية والإسبانية [3]. وتأتي اختبارات حقن الأوامر في CyberSecEval في ملف إنجليزي وملف متعدد اللغات مترجم آليًا [4]. كلاهما قيّم، ونحن نستعملهما. لكن أيًّا منهما لا يغطي اللهجة الخليجية أو العربيزي كما يكتبها الناس فعلًا. والضابط الذي لا يُقاس إلا بالإنجليزية لا يستطيع أن يَعِد العميل الناطق بالعربية بالكثير، في أي من الاتجاهين: فقد يفوته تلاعب مكتوب باللهجة، أو يرفض سؤالًا عاديًا تمامًا لأنه يبدو غير مألوف.
ما رأيناه: قواعد بيانات تسأل إلى أين تذهب البيانات
السبب الثاني هو التنظيم. فالمرسوم بقانون اتحادي رقم 45 لسنة 2021 في دولة الإمارات، النافذ منذ 2 يناير 2022، يحدّد ضوابط معالجة البيانات الشخصية، ويضع، بحسب البوابة الرسمية لحكومة الإمارات، متطلبات نقل البيانات الشخصية ومشاركتها عبر الحدود لأغراض المعالجة [5]. وأصدرت المملكة العربية السعودية نظام حماية البيانات الشخصية في 16 سبتمبر 2021، وتشرف عليه سدايا [6]. وبالنسبة إلى شركة ترسل رسائل عملائها إلى نموذج ذكاء اصطناعي مستضاف في الخارج، تحوّل هذه القواعد خيارًا تقنيًا إلى خيار قانوني.
لذا يجب أن يفعل ضابط الحماية في هذه المنطقة أمرين معًا: أن يُبقي البيانات الشخصية، كأرقام الهوية الإماراتية والسعودية والآيبان، بعيدًا عن مزوّد النموذج، وأن يعمل حيث تحتاج الشركة إلى تشغيله.
ما صُمّم Guardrino ليفعله
من المخطط أن يكون Guardrino بوابة بين موظفي الشركة ووكلائها الذكيين وأي نموذج لغوي كبير. وكل ما في هذه القائمة تصميم، لا ميزة مطروحة.
- قراءة العربية كما تُكتب: الفصحى، واللهجتان الخليجية والمصرية، والعربيزي، والعربية الممزوجة بالإنجليزية، مع توحيد التشكيل والتطويل والمحارف المتشابهة قبل أي فحص.
- فحص كل رسالة على طبقات: فحوص سريعة للحالات الواضحة، ومصنّف صغير يفهم اللغة لرصد التلاعب، ومراجعة معمّقة فقط للرسائل القليلة التي تبقى غامضة.
- إخفاء البيانات الشخصية الخليجية، بعد التحقق منها ببنيتها وأرقام التحقق فيها، قبل أن يراها النموذج، ثم إعادة القيمة الحقيقية في الإجابة.
- ترك القرار لسياستك بين خمس نتائج: السماح، والإخفاء، والتنبيه، وطلب إعادة الصياغة، والحجب، لكل تطبيق ولكل فريق، كي لا يُردّ المستخدمون العاديون.
- فحص ما يقرؤه الوكلاء من مستندات ونتائج أدوات، لأن OWASP تعدّ الحقن عبر المصادر الخارجية كالمواقع والملفات جزءًا من الخطر نفسه [7].
- العمل في الإمارات كبوابة مستضافة، أو بالكامل داخل شبكتك كتثبيت دون اتصال.
تفاصيل الطبقات في دليلنا المبسّط إلى ضوابط حماية الذكاء الاصطناعي، أما الطريقة التي صُمّم بها Guardrino ليُبقي المستخدمين الشرعيين راضين ففي مقال ضوابط حماية لا تزعج مستخدميك.
ما لن ندّعيه قبل أن نقيسه
Guardrino قيد التطوير. لا توجد بعد نسخة عامة ولا سعر ولا موعد إطلاق ولا عميل، ولا ننشر أرقام أداء لشيء لم يُطرح. وفي صفحة Guardrino قسم للنتائج المقيسة يبقى فارغًا عن قصد، ولا يمتلئ إلا حين يُختبر إصدار على مجموعات اختبار عامة وعلى مجموعة محجوزة خاصة بنا بالعربية والإنجليزية، مع ذكر عدد الرسائل ونطاق الثقة بجانب كل رقم. وقد دوّنّا هذه المنهجية علنًا: كيف تختبر ضابط حماية بمجموعات اختبار عامة. يمكنك أن تحاسبنا بها، وأن تطبّقها على أي مورّد آخر.
نرى أن هذه هي الطريقة الواثقة لبناء منتج أمني. فالمشتري الذي يستطيع التحقق من المنهجية لا يحتاج إلى أن يأخذ النتيجة على كلمتنا.
كيف تنضم شركة إلى البرنامج التجريبي
نبحث عن عدد محدود من الشركات في الإمارات والخليج تشغّل، أو تخطط لتشغيل، تطبيقات أو وكلاء ذكاء اصطناعي بالعربية والإنجليزية. وقد صُمّم البرنامج التجريبي ليكون منخفض المخاطر بالنسبة إليك.
- مكالمة قصيرة عن تطبيقات الذكاء الاصطناعي لديك ولغاتك وقواعدك.
- تجربة بوضع المراقبة فقط على حركة بياناتك، في سحابتنا في الإمارات أو داخل شبكتك. يسجّل Guardrino ما كان سيفعله، ولا يحجب شيئًا.
- تقرير بما كان Guardrino سيخفيه أو ينبّه إليه أو يحجبه، نراجعه معك.
- ملاحظاتك تحدّد ما يُطرح أولًا، بما في ذلك خيار النشر الذي يأتي أولًا.
إن كان هذا يشبه فريقك، فزر صفحة Guardrino لترى التصميم المخطط والعرض التوضيحي الذي يعمل في المتصفح فقط، أو انتقل مباشرة إلى طلب الوصول المبكر. يسعدنا أن نعرف كيف يكتب عملاؤك.
دور Guardrino وHisnLabs
Guardrino قيد التطوير، والبرنامج التجريبي هو السبيل الوحيد لاستخدامه مبكرًا. تُظهر المحاكاة أدناه نوع الرسائل التي يُصمَّم من أجلها: العربية والعربيزي والبيانات الشخصية التي يكتبها الناس في الخليج كل يوم.