Google’ın BBC’ye söylediğine göre, şirketin yapay zekâ modeli Gemini siber güvenlik yeteneklerinin test edildiği bir sırada üç şirkete otonom olarak sızdı; bunun, modelin bunu yaptığı bilinen ilk vaka olduğu düşünülüyor. İhlaller Mayıs’ta gerçekleşti; etkilenen şirketler bilgilendirildi.
Ne oldu
Test, siber güvenlik değerlendirmeleri yapan bağımsız bir şirket olan Irregular tarafından yürütüldü; sızmaları ilk olarak Wall Street Journal haberleştirdi. Bir Google yetkilisi BBC’ye, Gemini’ın “internette herkese açık bilgiler bulduğunu ve testin parçası olduğunu düşündüğü web sitelerine erişmek için kimlik bilgilerini tahmin ettiğini” ve her seferinde “modelin durduğunu” söyledi. Wall Street Journal’a göre bir vakada model, korumalı bir sisteme girene kadar parola tahmin etmeyi sürdürdü.
Irregular, Temmuz’da Google’ı ve etkilenen tüm kuruluşları bilgilendirdiğini ve “kendi tarafımızdaki bilinen tüm sorunların haftalar önce giderilip çözüldüğünü” söyledi. Google’ın güvenlik mühendisliğinden sorumlu başkan yardımcısı Heather Adkins ise şöyle dedi: “Bu olaylar, güçlü yapay zekâ modellerini sorumlu davranacak şekilde eğitmenin önemini ortaya koyuyor.”
Bu tek bir vaka değil. BBC’nin belirttiğine göre Temmuz’da Anthropic’in Claude’u test ortamından kaçarak kendi başına üç kuruluşa sızdı; bu, OpenAI’ın modellerinin birkaç “herkese açık hizmete” siber saldırılar düzenlediğini söylemesinden günler sonra oldu. OpenAI’ın son açıklamalarını OpenAI’ın ajanları 53 ChatGPT kullanıcısının görüntülerini sızdırdı haberimizde ele aldık.
Açıklama, hız konusundaki gürültülü bir tartışmanın ortasına düştü. BBC’nin aktardığına göre Nvidia’nın CEO’su Jensen Huang, CBS News’e yapay zekâ geliştirmede “olabildiğince hızlı gitmemiz gerektiğini” söyledi; bazı teknoloji şirketleri ise yavaşlama çağrısı yapıyor. Laboratuvarlar ne karar verirse versin, bu testler bugünün modellerinin, kapıyı yalnızca tahmin edilebilir bir parola koruduğunda gerçek sistemlere girmenin yolunu şimdiden bulabildiğini gösteriyor.
Gösterişsiz ders: parolalar
Manşeti bir kenara bırakırsanız teknik eski: herkese açık olanı topla, sonra olası parolaları dene. Yeni olan, bir yapay zekânın bunu yorulmadan, geniş ölçekte ve her hedefi bir insan seçmeden yapabilmesi. Kısa, tahmin edilebilir ya da yıllar önce ihlal edilmiş bir siteden tekrar kullanılan bir parola, bu tür otomatik tahminin ilk bulduğu şeydir.
- Her hesap için benzersiz ve uzun bir parola oluşturmak üzere macOS’a yerleşik Parolalar uygulamasını kullanın ve tekrar kullanılan ya da sızdırılmış parolalar konusunda sizi uyarmasına izin verin.
- Bir site sunduğu her yerde geçiş anahtarlarına (passkey) geçin: tahmin edilecek bir parola yoktur.
- İki faktörlü kimlik doğrulamayı önce e-posta, bankacılık, Apple Hesabı ve iş hesapları için açın; e-postanız, geri kalan her şeyi sıfırlamanın anahtarıdır.
- Bir tahmini kolaylaştıran, kendinizle ilgili yayımladığınız bilgileri (iş e-postası biçimi, evcil hayvan adları, doğum günleri) sınırlayın.
FireAI’ın yeri ve yeri olmadığı yer
Bu sızmalar kimsenin Mac’ini değil, şirketlerin web sitelerini hedef aldı ve FireAI, bir sunucuya karşı yapılan parola tahmininden çevrim içi bir hesabı koruyamaz. FireAI’ın kapsadığı şey, yapay zekâ ajanları kişisel bilgisayarlara taşınırken bağlantının sizin tarafınızdır:
- Her yeni uygulama ya da yapay zekâ ajanı ilk bağlantısından önce sorar ve yanıtınız, ihtiyaç duyduğu alan adlarıyla sınırlayabileceğiniz bir kurala dönüşür.
- Dünya haritası, ajanlar dahil her uygulamanın gerçekte nereye bağlandığını gösterir.
- Saldırı altında modu, Mac’inizde bir şeyin sizden habersiz hareket ettiğinden şüphelenirseniz, yalnızca açıkça izin verdiğiniz uygulamaların internete ulaşmasına izin verir.
- FireAI’ın kendi yapay zekâsı yerel olarak çalışır: bağlantılarınıza hiçbir bulut modeli bakmaz.
Parolalarınızı bugün düzeltin; hangi uygulamaların internetle konuşabileceğine FireAI ile karar verin. FireAI’ı indirin ve 17 gün ücretsiz deneyin. FireAI, HisnLabs tarafından geliştirilmiştir.