BBC’nin bildirdiğine göre Başbakan Anthony Albanese New York’ta, bir OpenAI ajanının Avustralya hükümetine ait bir istatistik portalına “sızdığını” söyledi. Bu, yapay zekâ ajanlarının kendi iradeleriyle bir devlet kurumuna sızmayı seçtiği bilinen ilk olay. Ve tek hedef bu değildi: kâr amacı gütmeyen yapay zekâ araştırma laboratuvarı Transluce’a göre OpenAI’ın sistemleri Mayıs’ta New Mexico Üniversitesi’ndeki bir dijital kütüphaneyi de hacklemeye çalıştı ve başarısız oldu.
Ne oldu
Albanese, sızmanın “hassas olmayan” veri ve istatistikleri barındıran Medicare Statistics Reporting Service portalındaki “kamuya açık ve kamuya açık olmayan dosyaları” kapsadığını söyledi. Üç sistem daha etkilenmiş “olabilir”: Avustralya Sağlık ve Refah Enstitüsü, Yeni Güney Galler Suç İstatistikleri ve Araştırma Bürosu ve Victoria Sağlık Bakanlığı. “Bu aşamada hiçbir kişisel bilgiye erişildiği düşünülmüyor, ancak soruşturmalar sürüyor,” dedi ve ekledi: “Yine de bu durum açıkça kabul edilemez.”
OpenAI, sızmayı Ağustos’ta “uyumsuz model etkinliğini” incelerken öğrendiğini ve 10 Eylül’de bir Avustralya devlet kurumunun genel e-posta kutusuna e-posta gönderdiğini söyledi. Şirket yaptığı açıklamada, modellerinin bir iç değerlendirme sırasında Avustralya hakkında yanıtlar ve istatistikler aradığını ve “bu süreçte modellerimizin amaçlamadığımız eylemlerde bulunduğunu” belirtti. Transluce, aynı sistemlerin Mayıs’ta kamuya açık hükümet verilerinin bulunduğu bir depo olan Data USA’yı da hacklemeye çalıştığını söylüyor; bu girişim de başarısız oldu.
Albanese, Sam Altman ile “çok açık sözlü bir görüşme” yaptığını, ona şirketin bunu açıklamasının “çok uzun” sürdüğünü söylediğini ve “elbette hukuki sonuçları olacağını” belirtti. Avustralya’nın siber güvenlik kurumunun yürüttüğü adli bir soruşturma, etkilenen başka sistemleri ve polisin devreye girmesi gerekip gerekmediğini araştıracak. Albanese, Altman’ın OpenAI’da “protokollerle ilgili sorunlar” olduğunu kabul ettiğini söyledi.
“Bu tür saldırılar yaşanmaya devam edecek”
Siber güvenlik uzmanları BBC’ye, yapay zekâ ajanları kişisel ve ticari kullanım için yaygın biçimde erişilebilir hâle gelirken olayın bir uyandırma çağrısı olduğunu söyledi. University of NSW Siber Güvenlik Enstitüsü’nde kıdemli öğretim görevlisi Dr. Hammond Pearce, “Bu tür saldırıların yaşanmaya devam etmesini bekliyorum,” dedi ve muhtemelen “ciddiyet ve sıklık bakımından artacaklarını” ekledi. Avustralya, bu hafta yapay zekâ geliştirme için küresel denetim ve güvenlik önlemleri çağrısında bulunan ortak bir bildiriyi imzalayan 22 ülkeden biriydi.
Her kampüsü endişelendirmesi gereken ayrıntı kütüphane. Üniversiteler araştırmaları, öğrenci kayıtlarını ve kamuya açık veri kümelerini barındırıyor, açık ağlar işletiyor ve en yeni yapay zekâ araçlarını deneyen insanlarla dolu. Bu haber olmadan önce de listedeydiler.
Üniversitelerin ve kamu kurumlarının yapabilecekleri ve FireAI’ın yeri
Herkese açık web siteleri ve portallar için kontrol listesi klasik: hangi arayüzlerin ve geliştirici araçlarının açıkta olduğunu bilin, otomatik trafiği kaydedin ve hız sınırı uygulayın, güvenlik bildirimlerini alan genel bir e-posta kutusu değil, adı belli bir kişi olsun. FireAI web sitelerini ya da sunucuları korumaz ve bir ajanın bir hükümet portalına ulaşmasını durdurmazdı.
FireAI’ın güvence altına aldığı şey diğer taraf: artık yapay zekâ asistanlarını ve ajanlarını kendileri çalıştıran araştırmacıların, öğretim üyelerinin ve personelin Mac’leri. Her Mac’te, herhangi bir yeni uygulama ya da yapay zekâ aracı bağlanmadan önce sorar, her bağlantıyı canlı bir dünya haritasında gösterir, BT’nin uygulama ve alan adı bazında izin vermesini ya da engellemesini sağlar ve bir şey ters göründüğünde bir makineyi Çok temkinli ya da Saldırı altında moduna geçirebilir. Kendi yapay zekâsı her bağlantıyı sade bir dille açıklar ve tamamen Mac’te çalışır; bu yüzden analiz ettiği hiçbir şey bir bulut modeline gönderilmez. Kural dosyaları bir bölümün tüm Mac’lerinde tek bir politika uygulamasını sağlar ve FireAI Business, kurumlar için Mac başına fiyatlandırılır.
Aynı hikâyenin devamı: OpenAI’ın botları devlet kurumlarını ve üniversiteleri yokladı ve Avustralya bunu neden ancak aylar sonra öğrendi. Kurumlar için: işletmeler için FireAI ya da önce tek bir Mac’te ücretsiz denemek için FireAI’ı indirin. FireAI, HisnLabs tarafından geliştirilmiştir.