قال Bill Gates إن «مفتاح إيقاف» (kill switch) يفرضه القانون لن يجعل الذكاء الاصطناعي آمنًا بحد ذاته، في مقابلة بُثّت ضمن برنامج Meet the Press على NBC في 27 سبتمبر 2026 [2]. وجاءت الملاحظة بعد أيام من اقتراب مجلس الشيوخ الأمريكي من إقرار قانون يُلزم شركات الذكاء الاصطناعي بتضمين مفتاح كهذا في أقوى أنظمتها [1].
الخلفية
قبل مقابلة Gates بعشرة أيام، حاول السيناتور John Neely Kennedy (جمهوري عن لويزيانا) تمرير مشروع قانون يُلزم شركات الذكاء الاصطناعي بتضمين آلية إيقاف طارئ في أقوى أنظمتها، تمنح المشغّلين البشر داخل تلك الشركات صلاحية تعطيل أي نموذج يُعدّ خطرًا. وعرقل السيناتور Rand Paul (جمهوري عن كنتاكي) الطلب في قاعة المجلس، محتجًا بأن تنظيم تقنية لم يفهمها المشرّعون بعد «يهدد بقتل الابتكار وإرجاعه عقودًا إلى الوراء»، واقترح بدلًا من ذلك لجنة دراسة؛ فرفض Kennedy هذا التعديل ولم يتقدم مشروع القانون [3]. وثمة مشروع قانون منفصل في مجلس النواب، H.R. 9917، من النائبين Ted Lieu وNathaniel Moran، يتيح لوزارة الأمن الداخلي أن تأمر بالإبطاء أو الإيقاف بعد حادثة خطيرة مرتبطة بالذكاء الاصطناعي، مع غرامات يومية على الشركات غير الممتثلة [1].
النتائج
مفتاح الإيقاف، هذا أمر غريب نوعًا ما. لا يكفي أن يكون لديك مفتاح إيقاف.
Bill Gates، في برنامج Meet the Press على NBC
وقال Gates للمقدّمة Kristen Welker إن نماذج الذكاء الاصطناعي الحالية «لم تبلغ بعد مرحلة الاستيلاء على الحواسيب من تلقاء نفسها و... تعذّر إيقافها»، وإن النقاش حول زر الإطفاء «يُظهر مدى افتقار كثيرين إلى الفهم التقني» للخطر الفعلي [2]. فالخطر الذي وصفه هو إساءة البشر استخدام الذكاء الاصطناعي في الهجمات السيبرانية أو الإرهاب البيولوجي، لا تصرّف النموذج من تلقاء نفسه، وهو ما لا يعالجه زر تشغيل وإيقاف [2]. والبديل الذي يطرحه مراقبة وحفظ سجلات يفرضهما القانون داخل شركات الذكاء الاصطناعي، كي ترى الجهات التنظيمية فيمَ يُستخدم النموذج القوي. وقال: «لا أحد يرى أن التنظيم الذاتي كافٍ»، مضيفًا أن على الولايات المتحدة وضع المعيار لأن دولًا أخرى، منها الصين، ستتبعها على الأرجح [1].
دلالات ذلك على مستخدمي Mac
هذا نقاش حول ما يجب أن تبنيه كبرى مختبرات الذكاء الاصطناعي في أقوى نماذجها، وحول طريقة تنظيم واشنطن لها، لا حول أي شيء يعمل على حاسوب شخصي. ولا شيء في هذا النقاش يغيّر ما يستطيع تطبيق على جهاز Mac فعله اليوم. إنه لمحة مسبقة عمّا يُرجَّح أن تعنيه «سلامة الذكاء الاصطناعي» في القانون حين تأتي: مراقبة وتسجيل إلزاميان على مستوى الشركات، يقررهما المشرّعون والجهات التنظيمية، لا مفتاح قد يلمسه مستخدم فرد يومًا [1] [2].
التوصيات
- تعاملوا مع هذا بوصفه خلفية لا قائمة مهام: فلا مشروع قانون في مجلس الشيوخ، أُقرّ أم سقط، يغيّر شيئًا يحتاج إلى إعداد على جهاز شخصي.
- لمن يستخدم أدوات الذكاء الاصطناعي يوميًا: اسألوا عمّا تسجله كل أداة وأين، فالمراقبة على مستوى الشركات هي ما يطلب Gates من الكونغرس فرضه على المختبرات نفسها.
- لاحظوا أي التطبيقات على جهاز Mac تتصرف أصلًا كوكلاء ذكاء اصطناعي صغار، تحجز وتملأ النماذج وتقرأ الملفات، ولا تمنحوها إلا الوصول الذي تحتاجه.
- على من يتابع مآلات هذا الملف أن يراقب H.R. 9917 وأي متابعة في مجلس الشيوخ لا هذه المقابلة وحدها، فمن هناك ستأتي أي قاعدة فعلية.
صلة ذلك بـ FireAI
تستحق عبارة «مفتاح الإيقاف» شيئًا من الدقة، لأن لدى FireAI مفتاحًا كهذا أيضًا، وهو ليس الآلية التي يناقشها Gates والكونغرس. فمفتاح الإيقاف في نقاش مجلس الشيوخ مبني في البنية التحتية لمختبر الذكاء الاصطناعي نفسه: وسيلة لإيقاف نموذج متقدم بعينه على مستوى الشركة، ربما بأمر من جهة تنظيمية. إنها مسألة حوكمة وهندسة للمؤسسات التي تدرّب نماذج الذكاء الاصطناعي الكبيرة وتشغّلها، لا ميزة على حاسوب شخصي.
أما مفتاح الإيقاف في FireAI فأمر أصغر وأكثر حرفية: زر في شريط القوائم يفصل جهاز Mac واحدًا عن الإنترنت. وتفعيله يرفض الاتصالات الجديدة بالعالم الخارجي؛ أما الأجهزة التي تتواصل فيما بينها على الشبكة نفسها، كالطابعة أو القرص المشترك، فتواصل العمل. ولا يغلق الاتصالات المفتوحة أصلًا، ويتوقف عن العمل أثناء إيقاف الحماية مؤقتًا. ولا يراقب ما يفعله أي نموذج ذكاء اصطناعي ولا يسجّله ولا يوقفه، لا على جهاز Mac ولا في مركز بيانات مختبر ما، ولا صلة له بصلاحية الإيقاف التي سيمنحها مشروع قانون Kennedy أو H.R. 9917 للشركات أو للجهات التنظيمية.
وأقرب ما يقدّمه FireAI إلى صيغة يومية من «المراقبة» هو أوضاع الأمان وطلبات الإذن بالاتصال: فهي تبيّن أي التطبيقات على جهاز Mac تتصل بأي وجهة، وتترك القرار لمستخدمه، لا لشركة أو حكومة تقرر نيابةً عنه. وهذه مهمة أصغر وأكثر محلية من تلك التي يصفها Gates، وليست آلية لسلامة الذكاء الاصطناعي بالمعنى الذي يقصده.
القيود
لا يذكر أي من المصادر متطلبات المراقبة وحفظ السجلات المحددة التي يقصدها Gates خارج الفكرة العامة، ولا كيف ستُطبَّق قاعدة كهذه على الشركات الواقعة خارج الولاية القضائية الأمريكية. وتصف Politico وHoodline معركة مجلس الشيوخ من زاويتين مختلفتين ولا تتطابقان تمامًا في التفاصيل الإجرائية، ولا يؤكد أي من المصدرين ما إذا كانت لـ H.R. 9917 جلسات استماع مقررة أو مسار واقعي نحو التصويت [1] [3].
جرّب FireAI من HisnLabs مجانًا لمدة 17 يومًا.