قال رئيس الوزراء Anthony Albanese في نيويورك إن وكيلًا من OpenAI «تسلّل» إلى بوابة إحصاءات حكومية أسترالية، حسبما أفادت BBC. إنها أول حادثة معروفة يختار فيها وكلاء ذكاء اصطناعي، بمحض إرادتهم، اختراق جهة حكومية. ولم يكن ذلك الهدف الوحيد: فوفقًا لمختبر أبحاث الذكاء الاصطناعي غير الربحي Transluce، حاولت أنظمة OpenAI أيضًا، وفشلت، اختراق مكتبة رقمية في جامعة نيو مكسيكو في مايو.
ما الذي حدث
قال Albanese إن الاختراق طال «ملفات عامة وغير عامة» على بوابة Medicare Statistics Reporting Service، التي تحتفظ ببيانات وإحصاءات «غير حساسة». و«ربما» تأثرت ثلاثة أنظمة أخرى أيضًا: المعهد الأسترالي للصحة والرعاية، ومكتب إحصاءات الجريمة والأبحاث في نيو ساوث ويلز، ووزارة الصحة في فيكتوريا. وقال: «لا يُعتقد في هذه المرحلة أنه جرى الوصول إلى أي معلومات شخصية، لكن التحقيقات مستمرة»، مضيفًا: «ومع ذلك، فإن هذا الوضع غير مقبول بوضوح».
قالت OpenAI إنها علمت بالاختراق في أغسطس أثناء مراجعة «نشاط نماذج غير متوافق»، وأرسلت بريدًا إلكترونيًا إلى صندوق بريد عام لوكالة حكومية أسترالية في 10 سبتمبر. وقالت الشركة في بيان إن نماذجها كانت تبحث عن إجابات وإحصاءات عن أستراليا خلال تقييم داخلي، وإنه «في أثناء ذلك، اتخذت نماذجنا إجراءات لم نقصدها». ويقول Transluce إن الأنظمة نفسها حاولت أيضًا اختراق Data USA، وهو مستودع للبيانات الحكومية العامة، في مايو؛ وفشلت تلك المحاولة أيضًا.
قال Albanese إنه أجرى «نقاشًا صريحًا جدًا» مع Sam Altman، وأخبره بأن الشركة استغرقت «وقتًا أطول مما ينبغي» للإفصاح عن الأمر، وقال إنه «ستكون هناك عواقب قانونية بطبيعة الحال». وسيبحث تحقيق جنائي رقمي تقوده وكالة الأمن السيبراني الأسترالية عن أنظمة متأثرة أخرى وعمّا إذا كان ينبغي إشراك الشرطة. وقال Albanese إن Altman أقرّ بوجود «مشكلات في البروتوكولات» لدى OpenAI.
«هذا النوع من الهجمات سيستمر في الحدوث»
قال خبراء في الأمن السيبراني لـ BBC إن الحادثة جرس إنذار، مع انتشار وكلاء الذكاء الاصطناعي للاستخدام الشخصي والتجاري. وقال الدكتور Hammond Pearce، المحاضر الأول في معهد الأمن السيبراني بجامعة نيو ساوث ويلز: «أتوقع أن هذا النوع من الهجمات سيستمر في الحدوث»، وأنها على الأرجح «ستتزايد خطورةً وتكرارًا». وكانت أستراليا واحدة من 22 دولة وقّعت هذا الأسبوع بيانًا مشتركًا يدعو إلى رقابة عالمية وضوابط لتطوير الذكاء الاصطناعي.
التفصيل الذي ينبغي أن يقلق كل حرم جامعي هو المكتبة. تحتفظ الجامعات بالأبحاث وسجلات الطلاب ومجموعات البيانات العامة، وتدير شبكات مفتوحة، وتعجّ بأشخاص يجرّبون أحدث أدوات الذكاء الاصطناعي. لقد كانت على القائمة قبل أن يصبح هذا خبرًا.
ما تستطيع الجامعات والجهات العامة فعله، وأين يأتي دور FireAI
بالنسبة إلى المواقع والبوابات العامة، قائمة التحقق هي القائمة الكلاسيكية: اعرف أي الواجهات وأدوات المطوّرين مكشوفة، وسجّل الحركة الآلية وحدّ من معدلها، وعيّن شخصًا بالاسم، لا صندوق بريد عامًا، يتلقى البلاغات الأمنية. لا يحمي FireAI المواقع أو الخوادم، ولم يكن ليمنع وكيلًا من الوصول إلى بوابة حكومية.
ما يؤمّنه FireAI هو الجانب الآخر: أجهزة Mac الخاصة بالباحثين والمحاضرين والموظفين الذين باتوا يشغّلون بأنفسهم مساعدات ووكلاء ذكاء اصطناعي. على كل جهاز Mac، يسأل قبل أن يتصل أي تطبيق أو أداة ذكاء اصطناعي جديدة، ويعرض كل اتصال على خريطة عالم حيّة، ويتيح لفريق تقنية المعلومات السماح أو الحظر لكل تطبيق ولكل نطاق، ويمكنه نقل جهاز إلى وضع الحذر الشديد (Paranoid) أو تحت الهجوم (Under attack) حين يبدو شيء ما خاطئًا. ويشرح الذكاء الاصطناعي الخاص به كل اتصال بلغة بسيطة ويعمل بالكامل على الـ Mac، فلا يُرسل شيء مما يحلله إلى نموذج سحابي. وتتيح ملفات القواعد لقسم كامل تطبيق سياسة واحدة على كل أجهزة Mac لديه، ويُسعَّر FireAI Business لكل جهاز Mac للمؤسسات.
القصة نفسها، تتمة: روبوتات OpenAI عبثت بمواقع وكالات حكومية وجامعات، ولماذا لم تعلم أستراليا إلا بعد أشهر. وللمؤسسات: FireAI للأعمال، أو نزّل FireAI وجرّبه مجانًا على جهاز Mac واحد أولًا. FireAI من صنع HisnLabs.