دليل · حماية الذكاء الاصطناعي في الإمارات والخليج

جدار حماية الذكاء الاصطناعي للبنوك والاتصالات والجهات الحكومية في الخليج

تضع البنوك وشركات الاتصالات والخدمات الحكومية في الخليج مساعدين ووكلاء ذكاء اصطناعي أمام العملاء والموظفين، بالعربية والإنجليزية. يتناول هذا الدليل ما تضيفه حواجز أمان النماذج اللغوية لفريق يعمل في قطاع منظَّم في الإمارات والخليج: أين تعمل، وما الذي تهتمّ به الجهات التنظيمية، وكيف ترتبط بأنظمتكم، وكيف تطبّقونها دون مخاطرة.

Guardrino قيد التطوير ويُقدَّم عبر برامج تجريبية بوضع المراقبة فقط: يسجّل ما كان سيفعله على حركة رسائلكم الفعلية، ولا يحظر شيئًا حتى تقرّروا ذلك.

اطلبوا برنامجًا تجريبيًا

لماذا تحتاج الفرق الخاضعة للتنظيم في الخليج إلى حماية الذكاء الاصطناعي

مساعد يطّلع على بيانات الحسابات، وروبوت اتصالات يستطيع تبديل شريحة أو تغيير باقة، وخدمة حكومية تجيب بالعربية: كلٌّ منها يتلقّى تعليمات بلغة عادية من أشخاص لا تتحكّم بهم الجهة المشغِّلة. تضع OWASP حقن الأوامر في رأس مخاطر تطبيقات النماذج اللغوية، وتذكر الحقن غير المباشر، عبر صفحات الويب والمستندات التي يقرؤها النموذج، إلى جانب الهجمات المباشرة (OWASP LLM01).

ثلاثة أمور تجعل الخليج مختلفًا. يكتب العملاء باللهجة الخليجية والعربيزي والإنجليزية، وكثيرًا ما يجمعونها في رسالة واحدة، وكثير من أدوات الحماية المبنية للإنجليزية لا يقرؤها جيدًا (انظروا حواجز أمان النماذج اللغوية بالعربية). والجهات التنظيمية تنتظر أن يُدار الذكاء الاصطناعي كأي خطر آخر، بإشراف بشري وسجلّات. وقوانين حماية البيانات في الإمارات والسعودية تضع قواعد لتأمين البيانات الشخصية وشروطًا لنقلها خارج البلد.

لذلك على جدار حماية الذكاء الاصطناعي في الإمارات والخليج أن يؤدّي مهمّتين: أن يوقف الهجمات باللغات التي يستخدمها العملاء فعلًا، وأن يعطي فرق الأمن والمخاطر الأدلة التي تحتاجها لتبيّن كيف يُضبط الذكاء الاصطناعي لديها.

أين يعمل Guardrino، وإلى أين تذهب بياناتكم

Guardrino Sovereign: يُثبَّت داخل شبكتكم، بما في ذلك البيئات المعزولة عن الإنترنت. النماذج والسجلّات ولوحة التحكم كلها على بنيتكم التحتية، فلا تخرج الرسائل التي يفحصها من خوادمكم.
Guardrino Cloud: بوابة مُدارة في منطقة سحابية داخل بلدكم، أو في أقرب منطقة متاحة. هذا الخيار المستضاف مخطَّط له؛ والبرامج التجريبية اليوم تعمل داخل بيئتكم.
نموذج الذكاء الاصطناعي لديكم: يمرّر Guardrino الرسائل بعد فحصها إلى النموذج الذي تحدّدونه، محليًّا كان أو لدى مزوّد في الخارج. ومكان تشغيل ذلك النموذج وما ينصّ عليه عقدكم مع مزوّده قراركم، وخارج سيطرة Guardrino.

وهنا يفيد إخفاء البيانات الشخصية: تُستبدل أرقام الهوية الإماراتية والإقامة والآيبان وأرقام الهواتف المحلية والأسرار مثل مفاتيح API قبل أن تصل الرسالة إلى النموذج أو إلى السجلّات، فيكون ما يخرج من شبكتكم هو الصيغة المُخفاة. هذه الميزة مبنية لمتطلبات إقامة البيانات، لكنها لا تقرّر نيابة عنكم إن كان نقل ما مسموحًا به.

ما الذي تهتمّ به الجهات التنظيمية في الخليج، وأين يقع حاجز الأمان

لا يذكر أيٌّ من النصوص التالية منتجًا بعينه، وحاجز الأمان وحده لا يستوفي أيًّا منها. ما يستطيعه حاجز الأمان هو أن يعطي فريقكم ضابطًا ملموسًا ومسجَّلًا يصفه ويختبره ويعرضه حين يوثّق كيف تُحمى تطبيقات الذكاء الاصطناعي لديه. اقرؤوا النصوص نفسها واستشيروا فرقكم القانونية وفرق المخاطر؛ فهذا توجيه موجز لا استشارة قانونية.

ملخّصات لنصوص عامة، روابطها في المصادر أدناه. حاجز الأمان ضابط واحد بين ضوابط كثيرة، ولا يُثبت المطابقة لأي منها.
الجهة أو القانون	محور الاهتمام	كيف يساعدكم حاجز الأمان في توثيق ضوابطكم
المصرف المركزي لدولة الإمارات (CBUAE)	مذكرة إرشادية للمؤسسات المالية المرخّصة حول حماية المستهلك والاستخدام المسؤول للذكاء الاصطناعي وتعلّم الآلة: الحوكمة والمساءلة، والعدالة، والشفافية، والإشراف البشري، وإدارة البيانات والخصوصية.	سجلّ تدقيق لكل قرار، ووضع المراقبة فقط قبل الحظر، وقائمة مراجعة يقرّر فيها البشر في الحالات الملتبسة، وإخفاء بيانات العملاء قبل وصولها إلى النموذج.
البنك المركزي السعودي (ساما، SAMA)	إطار الأمن السيبراني للمؤسسات المالية الخاضعة لإشرافه: نهج موحّد للأمن السيبراني، ومستوى نضج مناسب للضوابط، وإدارة سليمة للمخاطر السيبرانية.	ضابط محدّد لخطر جديد هو هجمات الأوامر على تطبيقات الذكاء الاصطناعي، مع سياسات مكتوبة كشيفرة وقواعد ذات إصدارات وسجلّات قابلة للتصدير إلى مركز العمليات الأمنية.
مصرف قطر المركزي (QCB)	إرشادات للذكاء الاصطناعي للجهات المرخّصة تتناول الحوكمة وإدارة المخاطر والإسناد الخارجي والإشراف البشري والموافقات على الأنظمة الأعلى خطرًا.	سجلّات لما تلقّاه الذكاء الاصطناعي وما حُظر أو مُرِّر، وتحكّم بشري في توقيت تفعيل الحظر.
الهيئة الوطنية للأمن السيبراني في السعودية (NCA)	الضوابط الأساسية للأمن السيبراني (ECC-2:2024) للجهات الحكومية ومشغّلي البنى التحتية الوطنية الحساسة، ومنها حماية البيانات والمعلومات، وسجلّات الأحداث ومراقبتها، وأمن تطبيقات الويب، والأمن السيبراني للأطراف الخارجية والحوسبة السحابية.	أحداث أمنية من طبقة الذكاء الاصطناعي تُرسل إلى نظام SIEM لديكم، وإخفاء البيانات بحسب تصنيفها، وخيار التثبيت داخل مقرّكم.
قوانين حماية البيانات الشخصية (PDPL): المرسوم بقانون اتحادي رقم 45 لسنة 2021 في الإمارات، ونظام حماية البيانات الشخصية في السعودية	أمن البيانات الشخصية وسرّيتها، وشروط نقلها عبر الحدود، والإبلاغ عن الاختراقات (والجهة المختصة في السعودية هي سدايا). ولمركز دبي المالي العالمي وسوق أبوظبي العالمي قواعدهما الخاصة لحماية البيانات.	إخفاء البيانات الشخصية قبل وصولها إلى النموذج أو السجلّات، واختيار مكان تشغيل الفحص، وسجلّ بما رُصد وأُخفي من بيانات شخصية.

ويفيد ملف الذكاء الاصطناعي التوليدي من NIST لغةً مشتركة لفرق المخاطر، إذ يصف حقن الأوامر المباشر وغير المباشر خطرًا على أمن المعلومات يضيفه الذكاء الاصطناعي التوليدي (NIST AI 600-1). وتضيف OWASP في بند تسرّب موجّه النظام نقطة على كل فريق منظَّم أن يأخذ بها: موجّه النظام ليس ضابطًا أمنيًّا، ولا مكان فيه للأسرار ولا للأدوار ولا لهياكل الصلاحيات (OWASP LLM07).

الدخول الموحّد والأدوار

الدخول الموحّد (SSO) إلى لوحة تحكم Guardrino مبنيّ ومختبَر ولم يُطرح بعد. يعتمد على OpenID Connect، المعيار الذي تعمل به Okta وPing Identity وOneLogin وKeycloak وMicrosoft Entra ID، وعلى UAE PASS، الهوية الرقمية الوطنية في الإمارات، عبر OAuth 2.0. وتأتي أدوار المشاهد والمشغّل ومسؤول السياسات والمدقّق من مجموعات دليلكم، والتحقق متعدد العوامل من مزوّد الهوية لديكم. ويُسجَّل كل إجراء إداري باسم من قام به.

كيف يرتبط Guardrino بأنظمتكم

أربعة مداخل، لتبدؤوا بما يستخدمه فريقكم أصلًا. وتشرح أدلة المطوّرين كلًّا منها بالتفصيل.

واجهة الفحص (inspect API): يرسل تطبيقكم الرسالة إلى Guardrino ويتلقّى حكمًا، ثم يقرّر ما يفعل. أخفّ طريقة للبدء.
وسيط بواجهة OpenAI نفسها: وجّهوا تطبيقكم إلى Guardrino بدل مزوّد النموذج، فيفحص الأمر ويمرّره، ثم يفحص الردّ أثناء تدفّقه.
إضافة LiteLLM: إن كنتم توجّهون النماذج عبر LiteLLM، تضيف الإضافة مفتوحة المصدر `guardrino-litellm` الفحص هناك (GitHub).
وسيط أمان MCP: للوكلاء الذين يستخدمون الأدوات عبر بروتوكول Model Context Protocol، يقف Guardrino بين الوكيل وخوادم أدواته ويفحص ما يمرّ بينهما. أما ضوابط الأدوات الأدقّ لكل أداة فمخطَّط لها.

المراقبة فقط، ثم التطبيق

يبدأ كل تطبيق بوضع المراقبة فقط: يقرأ Guardrino الحركة الفعلية، ويسجّل ما كان سيُخفيه أو ينبّه إليه أو يحظره، دون أن يغيّر شيئًا لمستخدميكم. يراجع فريقكم النتائج، ويضبط العتبات لكل تطبيق، ثم يفعّل الحظر تطبيقًا بعد آخر حين تدعم الأدلة ذلك. ويمكن تشغيل قاعدة جديدة أو إصدار جديد من النموذج في وضع الظلّ بجانب الإصدار الفعلي قبل أن يقرّر شيئًا. وتحفظ لوحة التحكم السياسات كشيفرة، مع اختباراتها وإصداراتها، وتصدّر الأحداث إلى نظام SIEM لديكم.

أما الزمن الذي يستغرقه الفحص، وكيف يقارَن النموذج الذي يقوم به بغيره على النص العربي، ففي تقرير Guardrino-t7 v7: كل النماذج قيست على الجهاز نفسه، مع طريقة القياس وحدودها.

بحسب القطاع

تعرض كل صفحة حالة استخدام حوادث علنية، والتقنيات التي وراءها، وأين يساعد Guardrino، وما الذي يبقى من مسؤوليتكم:

البنوك: مساعدون ووكلاء يطّلعون على الحسابات أو يبدؤون عمليات الدفع.
الاتصالات: روبوتات تغيّر الباقات والشرائح وبيانات الحساب.
الحجز والسفر: وكلاء يحجزون ويعدّلون ويستردّون.
مساعدو الذكاء الاصطناعي أمام العملاء: أي مساعد يخاطب الجمهور، بما في ذلك الخدمات الحكومية.

أما الهجمات نفسها، باللهجات والعربيزي والنص المخفي، فتجدونها في دليل حقن الأوامر بالعربية.

ما لا يفعله حاجز الأمان لفريق منظَّم

اختبار المورّد ليس اختباركم. اختبارنا، مع منهجيته الكاملة وبياناته، من إعدادنا ويميل لصالح نموذجنا؛ والبرنامج التجريبي يقيس على رسائلكم.
لا يستوفي وحده أي تنظيم. إنه ضابط موثَّق واحد يستطيع فريقكم وصفه واختباره.
لا يرصد كل هجوم، ويحظر أحيانًا رسالة آمنة. وأنتم من يضبط هذه الموازنة لكل تطبيق.
لا يصحّح الإجابات التي يختلقها نموذجكم، ولا يأذن بالمدفوعات، ولا يحلّ محلّ ضوابط مكافحة الاحتيال.
لا يرى إلا ما يمرّ عبره.
لا يقرّر أين يعمل نموذج الذكاء الاصطناعي لديكم؛ فذلك قراركم وعقدكم.

أسئلة عن حواجز أمان النماذج اللغوية في الخليج

هل تخرج بياناتنا من البلد؟

يعمل Guardrino على خوادمكم الخاصة (Guardrino Sovereign) أو في منطقة سحابية داخل بلدكم، أو في أقرب منطقة متاحة (Guardrino Cloud). والفحص نفسه لا يرسل رسائلكم إلى أي مكان آخر أبدًا. أما مكان تشغيل نموذج الذكاء الاصطناعي فقراركم، فإن كان النموذج في الخارج ذهبت إليه الرسائل التي ترسلونها له. ويمكن للإخفاء أن يزيل البيانات الشخصية قبل ذلك.

هل Guardrino Cloud متاح؟

ليس بعد. الخيار المستضاف مخطَّط له، والبرامج التجريبية اليوم تعمل داخل بيئتكم.

هل يكفي استخدام Guardrino لاستيفاء متطلبات المصرف المركزي أو ساما أو مصرف قطر المركزي أو الهيئة الوطنية أو قوانين حماية البيانات؟

لا يستطيع أي منتج أن يعد بذلك، ونحن لا نعد به. يعطي حاجز الأمان فريقكم ضابطًا مسجَّلًا وقابلًا للاختبار لهجمات الأوامر وتعرّض البيانات في تطبيقات الذكاء الاصطناعي، تصفونه حين توثّقون ضوابطكم. أما الحكم على منظومتكم كلها فلفرقكم القانونية وفرق المخاطر وللجهة التنظيمية.

هل يستطيع موظفونا الدخول بمزوّد الهوية لدينا أو بالهوية الرقمية UAE PASS؟

الدخول الموحّد مبنيّ ومختبَر ولم يُطرح بعد: OpenID Connect لـ Okta وPing Identity وOneLogin وKeycloak وMicrosoft Entra ID، وUAE PASS عبر OAuth 2.0، مع أدوار مأخوذة من مجموعات دليلكم.

مع أي نماذج ذكاء اصطناعي يعمل؟

مع أي نموذج تستدعيه تطبيقاتكم عبر واجهة متوافقة مع OpenAI، أو عبر LiteLLM، أو عبر MCP للوكلاء، مستضافًا كان أو خاصًّا بكم. ويمكنكم تغيير المزوّد دون تغيير أداة الحماية.

ماذا يتضمّن البرنامج التجريبي؟

نحو ثمانية أسابيع بوضع المراقبة فقط على مساعد واحد: التثبيت في بيئتكم، ومراجعات أسبوعية لما رآه Guardrino، وتقرير نتائج يبيّن الهجمات بحسب نوعها ولهجتها، والرسائل الآمنة المحظورة خطأً، والإعدادات المقترحة. لا يُحظر شيء أثناء البرنامج.

هل لديكم عملاء في المنطقة؟

Guardrino قيد التطوير ويُقدَّم عبر برامج تجريبية بوضع المراقبة فقط. لا ندّعي عملاء ولا عمليات نشر.

ابدؤوا ببرنامج تجريبي لمدة 60 يومًا بوضع المراقبة فقط.

يراقب Guardrino أحد مساعديكم على حركته الفعلية داخل بيئتكم، وتحصلون على تقرير نتائج تستفيد منه فرق الأمن والمخاطر لديكم. لا يحظر شيئًا حتى تقرّروا. انضموا إلى البرنامج التجريبي أو اقرؤوا صفحة Guardrino لشركتكم.

اطلبوا برنامجًا تجريبيًا · Guardrino