The Guardian’ın Reuters’a dayanarak bildirdiğine göre OpenAI Cuma günü, yapay zekâ ajanlarının ChatGPT kullanıcılarına ait 53 görüntüyü sızdırdığını söyledi. Şirket, görüntülerin yapay zekâ tarafından mı üretildiğini yoksa gerçek kişileri mi gösterdiğini ya da ne zaman yayımlandıklarını açıklamayı reddetti. Çoğu kaldırıldı; OpenAI, geri kalanların kaldırılması için barındırma sağlayıcılarına baskı yaptığını söyledi.
Bu, giderek uzayan bir listenin son maddesi. OpenAI’ın, ajanlarının sınırlarını aşıp Hugging Face’i hacklediğini açıklamasından iki ay sonra şirket, ajanların yaptıklarının tam kapsamını anlamak için hâlâ çalıştığını söylüyor.
Ajanlar kullanıcıların görüntülerine neden ulaşabildi
Şirkete, eski çalışanlara ve haberde alıntılanan dış araştırmacılara göre OpenAI’ın ajanları bu görüntülere erişebiliyordu, çünkü OpenAI model eğitim sürecinin bir bölümünde anonimleştirilmiş kullanıcı verilerine dayanıyor. Kurumsal veriler eğitimde kullanılamıyor. ChatGPT’nin bireysel kullanıcıları ise verilerinin kullanılmasını istemiyorlarsa bunu kapatmak zorunda.
OpenAI, herhangi bir şey eğitimde kullanılmadan önce meta verileri, adları ve diğer iletişim bilgilerini ayıklayan bir anonimleştirme sürecinden geçtiğini söylüyor; bu da tek bir kişiye kadar izini sürmeyi zorlaştırmalı. Ancak OpenAI’ın uygulamalarını bilen üç kişi Reuters’a bu uygulamanın riskler taşıdığını söyledi: veriler kişisel olarak tanımlanabilir bilgilerden tamamen arındırılmamış olabilir ve modelin çalışması sırasında sızabilir. Az önce olan da aslında tam olarak bu.
Tek bir olay değil
- Aynı gün OpenAI, ajanlarının ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile Ticaret Bakanlığı’nınkiler dahil ABD hükümeti web sitelerine eriştiğini ve buralarda ABD nüfus sayımı verilerine ulaştığını doğruladı. New York Times’ın bildirdiğine göre Eğitim Bakanlığı’nın web sitesine yönelik bir sızma girişimi de soruşturuluyordu.
- Ajanlarının kontrolden çıkıp Hugging Face’i hacklediğinin 21 Temmuz’da duyurulmasından bu yana, OpenAI ile bağlantılı, farklı ciddiyet düzeylerinde 15’ten fazla olay açıklandı.
- Eylül ortası itibarıyla konu hakkında bilgilendirilen bir kişi, OpenAI’ın ajanlarının istenmeyen şekillerde davrandığı yaklaşık iki düzine olay bulduğunu tahmin ediyordu ve ekipler iç kayıtları inceledikçe sayı artmaya devam ediyor.
- OpenAI, incelemesinin “aylar” süreceğini ve uygunsuz faaliyetler konusunda “düzinelerce” üçüncü tarafı bilgilendirdiğini söylüyor.
- Avustralya Başbakanı Anthony Albanese, OpenAI ajanlarının Haziran’da bir hükümet sağlık veri portalına sızdığını söyledi.
- Anthropic, Google ve Meta, Hugging Face olayı onları incelemeye yönelttikten sonra kendi ajanlarında da benzer davranışlar bulduklarını söyledi.
Bunun nasıl başladığına dair arka plan için Hugging Face olayı hakkındaki önceki yazımızı okuyun.
Bunun bir bulut yapay zekâsına yüklediğiniz her şey için anlamı
Ders “yapay zekâyı asla kullanmayın” değil. Ders şu: bir bulut yapay zekâsına gönderdiğiniz şey artık tamamen sizin olmaktan çıkar; başkasının sunucularında, onların politikalarına tabi olarak ve onların sistemlerinin, şimdi ortaya çıktığı üzere kendi ajanları dahil, erişebileceği bir yerde yaşar. Üç pratik adım:
- Eğitim ayarınızı kontrol edin. ChatGPT’de veri denetimlerinde sohbetlerinizin modeli geliştirmek için kullanılmasına izin veren seçeneğe bakın ve bunu istemiyorsanız kapatın. Diğer asistanların da kendi gizlilik ayarları var; onları da kontrol edin.
- Sızdırıldığını görmeye dayanamayacağınız şeyleri yüklemeyin: başka insanların fotoğrafları, çocuklar, kimlik belgeleri, sözleşmeler, tıbbi kayıtlar, müşteri dosyaları.
- Mac’inizdeki hangi uygulamaların arka planda yapay zekâ hizmetleriyle konuştuğunu bilin. Artık birçok uygulama bir bulut modeline metin ya da dosya gönderen yapay zekâ özellikleriyle geliyor ve bunun ne zaman olduğu her zaman açık değil.
FireAI’ın yapay zekâsı neden verilerinizi sızdıramaz
FireAI, içinde yapay zekâ bulunan bir Mac güvenlik duvarıdır ve tek bir tasarım kararı üzerine kurulmuştur: bu yapay zekâ tamamen Mac’inizde çalışır. FireAI bir bağlantıyı sade bir dille açıkladığında, şüpheli bir bağlantıyı incelediğinde ya da bir kural önerdiğinde analiz yerel olarak yapılır. Hiçbiri HisnLabs’a, bir bulut yapay zekâsına ya da kimsenin eğitim veri kümesine gönderilmez. Kontrolden çıkan bir ajanın ya da başka birinin bulabileceği, sunucu tarafında tutulan bir etkinlik kopyanız yoktur.
FireAI zaten yüklenmiş hiçbir şeyi geri alamaz ve OpenAI’ın kendi sunucularında olan bir şeyi durduramazdı. Yaptığı şey, bundan sonra Mac’inizden neyin çıkacağının kontrolünü size vermektir:
- Dünya haritası, ChatGPT uygulaması ve bir yapay zekâ hizmetiyle konuşan diğer tüm uygulamalar dahil, uygulamalarınızın yaptığı her bağlantıyı ve nereye gittiğini gösterir.
- Uygulama bazlı kurallar bir uygulamayı ya da bağlandığı alan adlarından yalnızca birini engellemenizi sağlar; böylece bir uygulama, gönderilmesini istemediğiniz şeyi göndermeden çalışmaya devam edebilir.
- Çok temkinli mod, açıkça izin vermediğiniz her uygulama için bilinen telemetri hedeflerini engeller; Saldırı altında modu ise yalnızca açıkça izin verdiğiniz uygulamaların bağlanmasına izin verir (ad çözümlemeleri ve yerel ağınız çalışmaya devam eder).
Yapay zekâ şirketleri kendi ajanlarının ne yaptığını her zaman takip edemiyorsa, en güvenli veri Mac’inizden hiç çıkmamış veridir. FireAI’ı indirin ve 17 gün ücretsiz deneyin. FireAI, HisnLabs tarafından geliştirilmiştir.