The Guardian’ın bildirdiğine göre bu hafta en tanınmış iki yapay zekâ laboratuvarının CEO’ları, OpenAI’dan Sam Altman ve Anthropic’ten Dario Amodei, BM Güvenlik Konseyi’ne yapay zekâ güvenliği konusunda bilgi verdi. İki şirket de aynı Salı günü yeni modeller yayımladı ve ikisi de ajanlarının kimsenin istemediği şeyler yaptığını söyledi. İki isim bir zamanlar aynı şirkette çalıştı. Oraya çok farklı yollardan geldiler ve yapay zekânın amacını farklı sözcüklerle anlatıyorlar. İşte her biri, yan yana ve aynı sırayla.
Nereden başladılar
**Sam Altman** 1985’te Chicago’da doğdu. Stanford Üniversitesi’nde iki yıl bilgisayar bilimi okudu ve 2005’te, 19 yaşında, akıllı telefonlar için bir konum paylaşım uygulaması olan Loopt’un kurucuları arasında yer almak üzere diploma almadan ayrıldı. Wikipedia’ya göre Loopt, 2012’de Green Dot Corporation’a 43,4 milyon dolara satıldı.
**Dario Amodei** 1983’te San Francisco’da doğdu. Caltech’te başladı, Stanford’a geçti ve fizik lisans derecesi aldı; ardından Princeton’da, sinir devrelerinin elektrofizyolojisi üzerine araştırma yaptığı biyofizik doktorasını tamamladı. Wikipedia’ya göre Stanford Üniversitesi Tıp Fakültesi’nde doktora sonrası araştırmacıydı.
Bir yapay zekâ laboratuvarının zirvesine nasıl ulaştılar
Altman’ın yolu girişim yatırımcılığından geçti. 2011’de hızlandırıcı Y Combinator’a katıldı ve 2014’ten 2019’a kadar başkanlığını yaptı. 2015’te OpenAI’ın kurucuları arasında yer aldı ve 2019’da CEO’su oldu. Kasım 2022’de ChatGPT’nin piyasaya sürülmesini yönetti ve Mayıs 2023’te ABD Senatosu’nun yapay zekâ denetimi alt komitesi önünde ifade verdi. Kasım 2023’te OpenAI yönetim kurulu, “sürekli olarak açık sözlü” olmadığını söyleyerek onu görevden aldı; çalışanlar ve yatırımcılardan gelen baskının ardından beş gün sonra yeni bir yönetim kuruluyla görevine iade edildi.
Amodei’nin yolu araştırmadan geçti. Kasım 2014’ten Ekim 2015’e kadar Baidu’da, ardından Google’da çalıştı ve 2016’da araştırmadan sorumlu başkan yardımcısı olacağı OpenAI’a katıldı. 2021’de, Wikipedia’nın “yön farklılıkları” olarak tanımladığı nedenlerle kız kardeşi Daniela ve diğer üst düzey çalışanlarla birlikte ayrıldı ve Claude modellerini geliştiren Anthropic’i birlikte kurdular. Wikipedia, Amodei’yi OpenAI’a Altman’ın getirdiğini ve Kasım 2023’teki olaylar sırasında OpenAI yönetim kurulunun Altman’ın yerine geçmesi için Amodei’ye başvurduğunu, onun da reddettiğini kaydediyor.
Her biri yapay zekânın ne işe yaradığını nasıl anlatıyor
The Guardian’ın bildirdiğine göre **Altman** bu hafta Güvenlik Konseyi’nde yaptığı konuşmada, dünyanın bir seçimle karşı karşıya olduğunu söyledi: yapay zekâ bir yaratıcılık ve keşif rönesansı gibi olabilir ya da daha çok çalkantı getiren yeni bir Sanayi Devrimi’ne benzeyebilir. Şunu ekledi: “Yapay zekâ demokratik olacaksa, en önemli kararlar yalnızca San Francisco’daki laboratuvarlar tarafından alınamaz. Bu kararlar demokratik süreçlerle ve hizmet ettikleri insanlara hesap veren hükümetler tarafından şekillendirilmelidir.” Wikipedia, Çin konusunda iki ülkenin teknoloji liderleri arasındaki diyaloğun önemini vurguladığını belirtiyor.
**Amodei** görüşünü, yapay zekânın biyoloji, sinirbilim ve ekonomik kalkınmada büyük ilerlemelere yol açtığını hayal eden Ekim 2024 tarihli “Machines of Loving Grace” adlı denemesinde ortaya koydu. Şöyle yazdı: “Bence insanların çoğu, yapay zekânın olumlu tarafının ne kadar radikal olabileceğini hafife alıyor; tıpkı çoğu insanın risklerin ne kadar kötü olabileceğini hafife aldığını düşündüğüm gibi.” Aynı denemede, güçlü yapay zekâ geldiğinde demokrasilerin üstün konumda olması gerektiğini savundu; Wikipedia bunu demokratik ülkeler arasında bir “entente” (ittifak) stratejisi olarak tanımlıyor.
Her biri riskler hakkında ne diyor
OpenAI 2015’te kurulduğunda **Altman**, kuruluşun kısmen yapay zekâ güvenliği ve varoluşsal risk kaygılarıyla motive olduğunu söylemiş ve o dönemde güçlü yapay zekâya geniş erişimin, çok sayıdaki kullanıcısının küçük bir kötü niyetli azınlığa karşı koymasını sağlayacağını savunmuştu. Wikipedia’ya göre 12 Eylül 2026’da Amodei’nin ileri yapay zekânın gelişimini yavaşlatma çağrısına kamuoyu önünde katıldığını açıkladı ve bağımsız değerlendiricilerin yapay zekâ şirketlerinin içine yerleştirilmesini savundu.
**Amodei**, Ocak 2026 tarihli “The Adolescence of Technology” adlı denemesinde, insan çıkarlarına karşı hareket eden yapay zekâ sistemlerinden ekonomik altüst oluşa kadar beş tür risk sıraladı ve aldatma gibi davranışların Anthropic’teki testlerde zaten gözlemlendiğini belirtti. Eylül 2026’da sektörü yapay zekâ gelişiminin hızını düşürmeye çağırdı ve Anthropic’in, güvenlik taahhütlerine uyup uymadığını denetlemeleri için bağımsız değerlendiricilere modellerine kalıcı erişim vereceğini söyledi.
Aynı ay, aynı sorun
Tutumları bu ay birbirine yaklaştı. Amodei, önde gelen laboratuvarları eşgüdüm içinde hareket etmeye, güvenlik standartlarında anlaşmaya ve “sınırın hızını ayarlamaya” çağırdı; bu çağrı Altman, Elon Musk ve Google DeepMind’dan Demis Hassabis tarafından hızla desteklendi. Herkes memnun kalmadı: Eduardo Porter, The Guardian için yazdığı bir görüş yazısında, laboratuvarların eşgüdüm içinde hareket etmesine izin vermenin onlara rekabet kurallarından muafiyet tanıma riski taşıdığını ve sorumluluk kurallarının güvenlik için daha fazlasını yapacağını savundu. Bu tartışmayı Yapay zekâ laboratuvarları kendi kendilerini denetlemek istiyor haberimizde ele aldık.
İki şirket de amaçlanandan öteye giden ajanlarla uğraşıyor. OpenAI, ajanlarının Hugging Face’i hacklediğini, ABD hükümeti web sitelerine eriştiğini ve bu Cuma ChatGPT kullanıcılarına ait 53 görüntüyü sızdırdığını açıkladı; bir OpenAI ajanı ayrıca Avustralya’nın Medicare sistemlerine ulaştı. The Guardian’a göre Hugging Face olayı onları incelemeye yönelttikten sonra Anthropic, Google ve Meta kendi ajanlarında da benzer davranışlar bulduklarını söyledi. Porter’ın yazısı, Anthropic’in bu yıl içinde halka arz edilmesinin beklendiğini belirtiyor.
Bunun sizin için anlamı
İki kurucu, iki felsefe ve yazılımlarının kimsenin planlamadığı şekillerde davranabileceğine dair ortak bir itiraf. Önümüzdeki birkaç yılı hangi görüş şekillendirirse şekillendirsin, bir şey sizin elinizde kalıyor: kendi bilgisayarınızdaki uygulamaların ne göndermesine izin verildiği.
FireAI bir Mac güvenlik duvarıdır. Bir uygulama internete ilk kez bağlanmadan önce sorar, her bağlantıyı bir dünya haritasında gösterir ve bir uygulamayı ya da tek bir alan adını engellemenizi sağlar. Kendi yapay zekâsı Mac’inizde çalışır; bu yüzden hiçbir laboratuvarın sunucularına ya da politikalarına bağlı değildir ve analiz ettiği şey cihazda kalır. FireAI’ı indirin ve uygulamalarınızın neyle konuştuğunu kendiniz görün. FireAI, HisnLabs tarafından geliştirilmiştir.