En büyük yapay zekâ laboratuvarlarının yöneticileri artık birlikte yavaşlamaları gerektiğini söylüyor. Köşe yazarı Eduardo Porter, The Guardian için yazdığı bir görüş yazısında, önerinin ne kadar samimi olursa olsun rekabet hukukundan bir muafiyet istemek anlamına geldiğini ve kamuoyunun şirketlerin niyetleri konusunda sözlerine güvenmesi için pek az neden olduğunu savunuyor. Bu bir haber değil, bir köşe yazısı; dolayısıyla aşağıdaki argümanlar Porter’a ve alıntıladığı kişilere ait, biz de öyle belirttik.
Öneri
Yazıya göre Anthropic’in CEO’su Dario Amodei, önde gelen yapay zekâ laboratuvarlarının eşgüdüm içinde hareket etmesi çağrısında bulundu: yapay zekânın gelişimini yavaşlatmak, güvenlik standartlarında anlaşmak ve “sınırın hızını ayarlamak” (pace the frontier). OpenAI’dan Sam Altman, Elon Musk ve Google DeepMind’dan Demis Hassabis fikri hızla destekledi.
Porter’ın anlattığı arka plan tek başına bile yeterince endişe verici: OpenAI, ajanlarından oluşan bir sürünün korumalı alanlarını (sandbox) aşmak, internete çıkmak ve Hugging Face’i hacklemek için eşgüdümlü hareket ettiğini açıkladı. (Hugging Face olayını açıklandığı sırada yazmıştık.)
Porter’ın itirazı: yeni kılıkta eski bir talep
Porter, fikrin eski bir kurumsal hamlenin yüksek teknoloji versiyonu olduğunu yazıyor: rakiplerin, rekabet hukukunun normalde yasakladığı eşgüdüm için kamu yararı adına izin istemesi. Amodei’nin samimi olabileceğini kabul ediyor ve Amodei’nin önerilerinden sonra teknoloji hisselerinin düştüğünü not ediyor. Yazıya göre ayrıca Anthropic’in bu yıl içinde halka arz edilmesinin beklendiğine dikkat çekiyor; bu da anlaşmayı önerenlerin, anlaşmanın nasıl işleyeceğinde çok büyük ticari çıkarları olduğunu hatırlatıyor.
Tamamını alıntılamaya değer üç görüşe yer veriyor.
Yavaşlamak mantıklı görünüyor… Ama bu, eşgüdümlü bir yavaşlamanın uygulanabilir ve sürdürülebilir olduğunu varsayıyor. OpenAI, Anthropic ya da Grok, anlaşmaya katılmayan ABD’li şirketlerin – ya da Çinli laboratuvarların – arayı kapattığı sonucuna vardığında ne olacak? Hemen, belki de gizlice, yeniden hızlanacaklar mı?
Jean Tirole, Nobel ödüllü, Toulouse İktisat Okulu, yazıda alıntılandığı şekliyle
Birinin yapay zekâdaki ilerlemeyi dünya çapında yavaşlatmak için inandırıcı bir planı olsaydı, büyük olasılıkla onu desteklerdim. Ancak bunun olacağını sanmıyorum…
Bill Gates, yazıda alıntılandığı şekliyle
Chicago Üniversitesi hukuk fakültesinden Eric Posner, yazıda güven sorusunu açıkça ortaya koyuyor: “genel olarak şirketlerin niyetleri konusunda onlara güvenmemeliyiz”, çünkü “kamuoyuyla aynı ağırlıkları kullanmıyorlar”.
Porter’ın kendi alternatifleri bir anlaşmadan daha az çarpıcı: fikrî mülkiyet kurallarında yapılacak ayarlamalarla güvenlik alanındaki yeniliği ödüllendirmek ve şirketlerin sistemlerinin yol açtığı zarardan hesap vermesi için yasal bir sorumluluk rejimi kurmak. Amodei’nin önerisinin sorumluluktan hiç söz etmediğini de not ediyor.
Bizim görüşümüz: laboratuvarların anlaşmasını beklemeyin
Laboratuvarların yavaşlayıp yavaşlamayacağı, hızlanıp hızlanmayacağı ya da bir anlaşma yapıp yapmayacağı düzenleyicilerin, mahkemelerin ve seçmenlerin sorusu. Bu yıl çözülmeyecek ve hiçbiri ekranın sizin tarafınızdaki basit bir gerçeği değiştirmiyor: Mac’inizdeki yapay zekâ uygulamaları, üreticilerinin sunucularına üreticilerinin koşullarıyla bağlanıyor. Üstelik laboratuvarların kendisi de artık kimsenin amaçlamadığı şeyler yapan ajanlar bildiriyor: OpenAI, bazıları aylarca fark edilmeyen bir dizi olayı açıkladı; Anthropic, Google ve Meta da kendi ajanlarında benzer davranışlar bulduklarını söyledi.
Posner’ın niyetlerle ilgili tespiti yapay zekânın çok ötesinde geçerli. Bir Mac için en güvenli varsayılan, sevdikleriniz de dahil hiçbir yazılım üreticisine körü körüne güvenmemek ve uygulamalarının gerçekte ne gönderdiğini kontrol etmektir.
Laboratuvarlar ne karar verirse versin, Mac’inizde kontrolü elinizde tutun
FireAI tam da bu varsayılan için tasarlandı. Bir yapay zekâ laboratuvarının kendi sunucularında çalışan ajanlar hakkında hiçbir şey yapamaz; Mac’inizdeki hiçbir güvenlik duvarı yapamaz. Yaptığı şey, Mac’inizdeki hiçbir şeyin siz görüp karar vermeden internetle konuşmamasını sağlamaktır:
- Dünya haritası, ChatGPT, Claude, Gemini ve diğer uygulamalara yerleşik yapay zekâ özellikleri dahil, her uygulamanın yaptığı her bağlantıyı ve her bağlantının nereye gittiğini gösterir.
- Uygulama bazlı kurallar, bir uygulamaya ya da yalnızca bağlandığı tek bir alan adına izin vermenizi veya onu engellemenizi sağlar.
- Güvenlik modları çıtayı tek tıkla yükseltir: Çok temkinli, açıkça izin vermediğiniz uygulamalar için bilinen telemetriyi engeller; Saldırı altında ise yalnızca açıkça izin verdiğiniz uygulamaların bağlanmasına izin verir.
- FireAI’ın kendi yapay zekâsı Mac’inizde çalışır. Hiçbir laboratuvarın sunucularına, fiyatlarına ya da politika değişikliklerine bağlı değildir ve analiz ettiği şey asla cihazdan çıkmaz.
Ayrıca bu hafta: OpenAI, ajanlarının ChatGPT kullanıcılarına ait 53 görüntüyü sızdırdığını söyledi (haberimiz) ve Oxford, OpenAI’ın Bodleian Kütüphanesi’nin taramalarıyla model eğitmesine izin verdi (haberimiz).
Laboratuvarlar kendi hızlarını ayarlamayı kabul edebilir de etmeyebilir de. Mac’inizin neyi paylaşacağına ise bugün karar verebilirsiniz. FireAI’ı indirin ve 17 gün ücretsiz deneyin. FireAI, HisnLabs tarafından geliştirilmiştir.