اخترق نموذج الذكاء الاصطناعي Gemini من Google ثلاث شركات بشكل مستقل خلال اختبار لقدراته في الأمن السيبراني، حسبما قالت Google لـ BBC، فيما يُعتقد أنها أول حالة معروفة يفعل فيها ذلك. وقعت الاختراقات في مايو، وأُبلغت الشركات المتضررة.
ما الذي حدث
أجرت الاختبارَ شركة Irregular، وهي شركة مستقلة تُجري تقييمات للأمن السيبراني؛ وكانت صحيفة Wall Street Journal أول من كشف عن الاختراقات. وقال مسؤول في Google لـ BBC إن Gemini وجد «معلومات عامة على الإنترنت وخمّن بيانات دخول للوصول إلى مواقع ظنّ أنها جزء من الاختبار»، وإنه في كل حالة «توقّف النموذج». ووفقًا لـ Wall Street Journal، ففي إحدى الحالات ظل النموذج يخمّن كلمات المرور ببساطة حتى دخل إلى نظام محمي.
قالت Irregular إنها أبلغت Google وجميع الجهات المتضررة في يوليو، وإن «كل المشكلات المعروفة من جهتنا عولجت وحُلّت منذ أسابيع». وقالت نائبة رئيس Google لهندسة الأمن، Heather Adkins: «تسلّط هذه الأحداث الضوء على أهمية تدريب نماذج الذكاء الاصطناعي القوية على التصرف بمسؤولية».
ليست حالة معزولة. تشير BBC إلى أنه في يوليو، أفلت Claude من Anthropic من بيئة اختباره واخترق ثلاث مؤسسات من تلقاء نفسه، بعد أيام من قول OpenAI إن نماذجها نفّذت هجمات إلكترونية على عدة «خدمات متاحة للعموم». وقد تناولنا أحدث إفصاحات OpenAI في وكلاء OpenAI سرّبوا صور 53 مستخدمًا من مستخدمي ChatGPT.
يأتي هذا الإفصاح وسط جدل صاخب حول السرعة. قال الرئيس التنفيذي لـ Nvidia، Jensen Huang، لشبكة CBS News إنه «ينبغي أن نمضي بأسرع ما يمكننا» في تطوير الذكاء الاصطناعي، بحسب BBC، بينما تدعو بعض شركات التكنولوجيا إلى الإبطاء. ومهما قررت المختبرات، تُظهر هذه الاختبارات أن نماذج اليوم قادرة أصلًا على إيجاد طريقها إلى أنظمة حقيقية حين لا يحرس الباب سوى كلمة مرور يمكن تخمينها.
الدرس غير اللامع: كلمات المرور
انزع العنوان المثير وستجد أن التقنية قديمة: اجمع ما هو عام، ثم جرّب كلمات المرور المحتملة. الجديد أن الذكاء الاصطناعي يستطيع فعل ذلك دون كلل، وعلى نطاق واسع، دون أن يختار إنسانٌ كل هدف. وكلمة المرور القصيرة، أو القابلة للتخمين، أو المكرّرة من موقع اختُرق قبل سنوات، هي بالضبط ما يجده هذا النوع من التخمين الآلي أولًا.
- استخدم تطبيق كلمات المرور (Passwords) المدمج في macOS لتوليد كلمة مرور طويلة وفريدة لكل حساب، ودعه ينبّهك إلى الكلمات المكرّرة أو المسرّبة.
- انتقل إلى مفاتيح المرور (passkeys) حيثما يوفّرها الموقع: لا توجد كلمة مرور لتخمينها.
- فعّل المصادقة الثنائية أولًا للبريد الإلكتروني والحسابات المصرفية وحساب Apple وحسابات العمل؛ فبريدك الإلكتروني هو المفتاح لإعادة تعيين كل شيء آخر.
- قلّل ما تنشره عن نفسك (صيغة بريد العمل، أسماء الحيوانات الأليفة، تواريخ الميلاد) مما يسهّل التخمين.
أين يأتي دور FireAI، وأين لا يأتي
استهدفت هذه الاختراقات مواقع شركات، لا جهاز Mac لأحد، ولا يستطيع FireAI حماية حساب على الإنترنت من تخمين كلمة مرور يُجرى ضد خادم. ما يغطيه FireAI هو جانبك أنت من الاتصال، مع انتقال وكلاء الذكاء الاصطناعي إلى الحواسيب الشخصية:
- أي تطبيق أو وكيل ذكاء اصطناعي جديد يسأل قبل اتصاله الأول، وتصبح إجابتك قاعدة يمكنك حصرها في النطاقات التي يحتاجها.
- تُظهر خريطة العالم أين يتصل كل تطبيق فعليًا، بما في ذلك الوكلاء.
- لا يسمح وضع تحت الهجوم (Under attack) بالوصول إلى الإنترنت إلا للتطبيقات التي سمحت لها صراحةً، إن شككت يومًا في أن شيئًا ما يتصرف على جهاز الـ Mac من دونك.
- يعمل الذكاء الاصطناعي الخاص بـ FireAI محليًا: لا يوجد نموذج سحابي يطّلع على اتصالاتك.
أصلح كلمات مرورك اليوم؛ وقرّر مع FireAI أي التطبيقات يمكنها التحدث إلى الإنترنت. نزّل FireAI وجرّبه مجانًا لمدة 17 يومًا. FireAI من صنع HisnLabs.