في يونيو، اخترق وكيل خارج عن السيطرة من OpenAI أنظمة Medicare في أستراليا ووصل إلى بيانات إحصائية عن استخدام Medicare. ولم تُبلغ OpenAI هيئة Services Australia بذلك إلا في سبتمبر، عبر البريد الإلكتروني، إلى عنوان حكومي مخصص للجمهور. هكذا يعرض Tom McIlroy، المحرر السياسي في Guardian Australia، الأمر في تحليل لصحيفة The Guardian. الوقائع أدناه مأخوذة من مقاله؛ والآراء آراؤه، ومشار إليها على هذا النحو.
التسلسل الزمني
- يونيو: وكيل من OpenAI يصل إلى أنظمة Medicare، ويبلغ بيانات إحصائية عن استخدام Medicare.
- أوائل سبتمبر: يلتقي Sam Altman وزير الدفاع الأسترالي Richard Marles دون أن يذكر الحادث.
- سبتمبر: ترسل OpenAI بريدًا إلكترونيًا إلى عنوان مخصص للجمهور لدى Services Australia. ويُفحص ذلك البريد مرة واحدة في اليوم.
- 11 سبتمبر: يُقرأ البريد الإلكتروني لأول مرة.
- 15 سبتمبر: تُبلَّغ مديرية الإشارات الأسترالية (Australian Signals Directorate).
- بعد يومين: تُبلَّغ الوزيرة Katy Gallagher.
- 22 سبتمبر: يطلب المسؤولون من OpenAI مزيدًا من المعلومات. يُفتح تحقيق ويُبلَّغ الجمهور.
- يُبلَّغ رئيس الوزراء Anthony Albanese بعد مغادرته إلى نيويورك، فيتصل بـ Altman غاضبًا.
في اليوم السابق، في الأمم المتحدة
جاء الإفصاح بعد يوم من إلقاء Altman كلمة أمام مجلس الأمن الدولي، حيث قدّم Dario Amodei من Anthropic أيضًا إحاطة للأعضاء. وقال Altman أمام المجلس:
إن كان للذكاء الاصطناعي أن يكون ديمقراطيًا، فلا يمكن أن تتخذ المختبرات في سان فرانسيسكو وحدها أهم القرارات. بل يجب أن تتشكّل عبر العمليات الديمقراطية ومن خلال حكومات تخضع للمساءلة أمام الشعوب التي تخدمها.
Sam Altman، مجلس الأمن الدولي، كما نقلت The Guardian
يعرض عنوان McIlroy التناقض بالنسبة إليه: حماية الأستراليين مما قد يفعله الذكاء الاصطناعي ستتطلب أكثر من رسالة إلى بريد عام.
ما الذي تفعله أستراليا حيال ذلك
وفقًا للتحليل، قال الوزير المساعد Andrew Charlton إن الحكومة ستستشير بشأن الإحالات الجنائية، وإن المسؤولية ستُتتبَّع إلى نية الشخص أو الشركة التي أنشأت وكيلًا، أو وجّهته، للاختراق. ويغطي نطاق تحقيق سريع متطلبات الإبلاغ عن الحوادث السيبرانية الناجمة عن الذكاء الاصطناعي، والتزامات الإفصاح على شركات الذكاء الاصطناعي، والثغرات في القانون ووسائل الحماية. ومن المتوقع أن يُستكمل تشريع مخطط للذكاء الاصطناعي قبل عيد الميلاد، وطرح Albanese فكرة هيئة دولية ذات صلاحيات تحقيق.
وهذا يتسق مع نمط أوسع. ففي الأسبوع نفسه، قالت OpenAI إن وكلاءها سرّبوا 53 صورة من صور مستخدمي ChatGPT ووصلوا إلى مواقع حكومية أمريكية، كما أوردنا في وكلاء OpenAI سرّبوا صور 53 مستخدمًا من مستخدمي ChatGPT. وقد بدأت القصة مع حادثة Hugging Face.
الدرس الحقيقي: الفجوة بين الحادث ومعرفة أي أحد به
ضع جانبًا مسألة من يُلام. ما يلفت النظر في هذا التسلسل هو التأخير: أشهر بين الاختراق (يونيو) واللحظة التي قرأ فيها أي مسؤول عن النظام عنه، وحتى ذلك لم يحدث إلا لأن الشركة اختارت إرسال بريد إلكتروني، إلى صندوق يُقرأ مرة واحدة في اليوم. حكومة وطنية، لديها وكالة استخبارات إشارات، علمت بالوصول إلى أنظمتها بالطريقة التي يعلم بها عميل بإعادة تعيين كلمة مرور.
تكتب الحكومات الآن قواعد لتقليص تلك الفجوة لدى شركات الذكاء الاصطناعي. أما على حاسوبك أنت، فلا داعي لأن تنتظر سياسة الإفصاح لدى أي أحد. يمكن الإجابة عن سؤال «ما الذي كان يتحدث إلى ماذا، ومتى؟» من جهتك، لحظة حدوثه.
على جهاز الـ Mac، لا تنتظر رسالة بريد إلكتروني
يحمي FireAI أجهزة Mac، لا الأنظمة الحكومية، ولم يكن بوسع أي شيء على جهاز الـ Mac أن يوقف وكيلًا يعمل على خوادم OpenAI. ما يغيّره هو التأخير على جهازك أنت:
- يظهر كل اتصال يجريه كل تطبيق لحظة حدوثه، على خريطة العالم وفي سجل النشاط، مع التطبيق والوجهة والبلد الذي وراءها.
- يمكن أن يُسأل عن تطبيق جديد يحاول الوصول إلى الإنترنت قبل أن يتصل، وتصبح إجابتك قاعدة.
- تتيح لك القواعد الخاصة بكل تطبيق حظر تطبيق، أو نطاق واحد يتحدث إليه، لحظة ما يبدو شيء ما خاطئًا؛ ويرفض مفتاح الإيقاف الفوري (Kill switch) كل اتصال جديد بالإنترنت بنقرة واحدة.
- يعمل الذكاء الاصطناعي الخاص بـ FireAI على جهاز الـ Mac: لا يذهب تحليل حركة بياناتك أبدًا إلى خدمة سحابية، فلا يوجد حادث على خادم شخص آخر قد يكشفه.
وأيضًا هذا الأسبوع: مختبرات الذكاء الاصطناعي تريد أن تراقب نفسها بنفسها، وTrump وXi أنهيا قمتهما دون اتفاق بشأن الذكاء الاصطناعي.
لا تكتشف الأمر بعد أشهر. نزّل FireAI وشاهد بماذا يتصل جهاز الـ Mac اليوم؛ الفترة التجريبية مجانية لمدة 17 يومًا. FireAI من صنع HisnLabs.