İki beyin: biri kelimeler için, biri kararlar için
Teknikler
Açıklama ve konuşma için üretken bir model kullanmaya devam edin, evet/hayır kararlarını ise küçük, hızlı, üretken olmayan bir modele bırakın. Fikir hâlâ geçerli; denediğimiz ilk aday güvenlik duvarı komutlarını yeterince iyi anlamadı.
Model dosyalarını yüklemeden önce taramak
Teknikler
Python pickle olarak kaydedilen model dosyaları yüklendikleri anda kod çalıştırabilir; bu yüzden ModelScan, picklescan ve fickling gibi açık tarayıcılar onları yüklemeden okur. İndirilen bir dosya bir derlemeye girmeden önce bir kapı olarak yararlıdır; bulgular yine de insan incelemesi gerektirir. FireAI dosya taramaz: hangi uygulamanın nereye bağlanacağını denetler.
Minik URL risk sınıflandırıcıları
Modeller
Sayfayı okumadan bir web adresini kimlik avı riski açısından puanlayan, birkaç megabayt büyüklüğünde modeller. Bağlantı başına kontroller için düşünülebilecek kadar küçük. Laboratuvardaki sıradaki konu; henüz sonuç yok.
Haberlerde:Documentation placeholder domain scams
İstem enjeksiyonu sınıflandırıcıları (Prompt Guard, Llama Guard)
Modeller
Bir LLM’nin önüne konan, enjeksiyon girişimlerini ve güvensiz içeriği işaretleyen küçük modeller. Bilinen kalıplara uyan girişimleri azaltır, saldırıyı ortadan kaldırmaz; iki açık algılama projesi de arşivlendi, bu nedenle bir koruma değiştirilebilir olmalıdır. Bağlantıyı değerlendiremezler; güvenlik duvarı da istemi değerlendiremez.
Betikli 2B'den 3B'ye maskot hattı
Araçlar
2B maskot çizimlerimiz, tek bir komutla animasyonlu 3B modellere dönüşür (uygulama, web ve sosyal video için), böylece çizimler değiştiğinde tüm aile yeniden oluşturulabilir. Gözler en zor kısımdı.
İmzalı modeller ve yapay zekâ malzeme listeleri
Araçlar
Bir modeli Sigstore araçlarıyla imzalamak, onu kimin yayımladığını ve dosyalarının değişmediğini doğrulamayı sağlar. İmza kaynağı ve bütünlüğü kanıtlar, güvenliği değil; malzeme listesi de doğrulananı değil, yazarın beyan ettiğini kaydeder. Kullanım arttıkça izlemeye değer.
LLM için kırmızı takım tarayıcıları (garak, PyRIT, promptfoo)
Araçlar
Açık tarayıcılar bir modele veya uygulamaya düşmanca girdiler gönderir ve yanıtı kaydeder. Dosyaları değil davranışı sınarlar; sonuçlar hedefe ve yapılandırılan hakeme bağlıdır. Bunlardan biri artık OpenAI’ın parçası; herhangi birine güvenmeden önce bakım ve sahiplik kontrol edilmelidir.
Yapay zeka ajanları için çıkış kontrolü
Teknikler
Nvidia’nın yeni ajan güvenlik platformu, ajanların talimatlarının ötesinde hareket ettiği bildirildikten sonra bir yapay zekâ ajanının erişebileceği yerleri sınırlıyor. Aynı fikir bir Mac’te de geçerli: bir ajan uygulaması yalnızca görevinin gerektirdiği hedeflere erişmeli. Bir sonraki sürüm için geliştirilen FireAI’ın Agent profile özelliği, Claude Code, Cursor ve benzeri uygulamaları tanır, her birinin normalde iletişim kurduğu hedefleri üç gün boyunca öğrenir, ardından ilk kez görülen bir hedefi ya da yükleme sıçramasını incelenmek üzere işaretler. Bir kilit değil, bir temel çizgidir; istemleri ya da araç içeriklerini göremez. Laboratuvarda: bir yorumlayıcı üzerinden başlatılan, henüz tanınmayan ajanlar.
Haberlerde:AI agent safetyAI agent securityAI agent security
Yapay zeka model API'lerini çağıran bilinmeyen uygulamalar
Teknikler
Cisco Talos, birkaç ticari yapay zeka modeline bundan sonra ne yapması gerektiğini soran bir Windows programı tanımladı. Hangi cihazda çalışırsa çalışsın, böyle bir program ağ üzerinden bir yapay zeka sağlayıcısına erişmek zorundadır. Laboratuvarda: kullanıcı hiç onaylamadığı bir uygulama bir yapay zeka model sağlayıcısıyla konuşmaya başladığında kullanıcıyı bilgilendirmek.
Haberlerde:AI-directed Windows implant
Veri merkezleri ve yapay zeka uygulamaları için ağ "yapay zeka güvenlik duvarları"
Platformlar
Satıcılar artık "yapay zeka güvenlik duvarı" terimini iki farklı şey için kullanıyor: bir ağ güvenlik duvarının içindeki yapay zeka ve bir yapay zeka uygulamasının istemlerinin ve yanıtlarının önündeki bir filtre. İkisi de kişisel bir Mac'te çalışmıyor. Hangi fikirlerin tek bir bilgisayara taşınabileceğini öğrenmek için ikisini de takip ediyoruz.
Haberlerde:AI firewall products
Yapay zeka asistanlarına giden bir yol olarak tarayıcı uzantıları
Araçlar
Araştırmacılar, tek bir kötü niyetli tarayıcı uzantısının birçok tarayıcıya yerleşik yapay zeka asistanını yönlendirebildiğini gösterdi. Bir ağ güvenlik duvarı tarayıcıyı görür, uzantılarını görmez. Laboratuvarda: kullanıcılara FireAI içinden bir Safari uzantı incelemesi konusunda rehberlik etmek.
Haberlerde:Browser AI agent security
OpenClaw
Araçlar
Peter Steinberger tarafından geliştirilen ve şimdi OpenClaw Foundation tarafından yürütülen, açık kaynaklı kişisel yapay zeka ajanı; kendi bilgisayarınızda yaşar ve komutlarını sohbet uygulamalarınızdan alır. Araçları yalıtılmadıkça ana makinede çalışır, bu yüzden Mac'te kimsenin tek tek seçmediği giden bağlantılar açar. Onu bu yüzden izliyoruz: bir güvenlik duvarının bunları yönetmesi gerekir. Denemeye taşımak için FireAI'ın bağlantılarını hedefe göre listelediğini ve göreve özel bir izin listesinin normal çalışmasını bozmadan dayandığını görmemiz gerekir.
Hermes Agent
Araçlar
Nous Research'ten, kalıcı belleği, terminal arayüzü ve OpenClaw kurulumları için yerleşik içe aktarıcısı olan, kendini geliştiren açık kaynaklı yapay zeka ajanı (MIT lisansı). Masaüstünde kabuk ve ağ erişimi olan ajanlar yeni bir giden bağlantı kaynağıdır; zamanla yeni beceriler öğrenen bir ajanı öngörmek ise daha zordur. Denemeye taşımak için trafiğinin birkaç günlük gerçek kullanım boyunca kısa bir onaylı hedef listesi içinde kaldığını görmemiz gerekir.
Kurumsal yapay zekâ ajanları için kontrol düzlemleri
Platformlar
OpenClaw Foundation, bazı işletmelerin ajanı tamamen yasaklamasının ardından, bir şirkete yapay zekâ ajanlarını tek yerden yönetme imkânı veren açık kaynaklı bir kontrol düzlemi geliştirmeye başladı. Bu tür bir yönetişim, bir ajanı kimin hangi izinlerle çalıştırabileceğine karar verir; her Mac’in nereye bağlandığını görmez. Laboratuvarda: bir ajanın giden bağlantılarına Mac başına bakış, şirket politikasının yanında nasıl yer alabilir.
Haberlerde:AI agent security
Dışarıya açık ajan çalışma ortamları ve konteyner sunucuları
Teknikler
ThreatDown’un bildirdiği bir botnet, açık kaynaklı Hermes Agent’ı internete açık bırakılmış Docker sunucularına kurar ve emirlerini Telegram üzerinden alır. Zayıf nokta ajan değil, dışarıya açık yönetim hizmetidir; ağdan erişilebilen her ajan çalışma ortamı aynı riski taşır. Laboratuvarda: Mac’teki bir hizmet başka bilgisayarlardan bağlantı kabul etmeye başladığında kullanıcıyı uyarmak.
Haberlerde:AI agent security
macOS’ta klonlanmış yükleyicilerde ve disk görüntülerinde arka kapılar
Teknikler
Raporlar, Mac’lere disk görüntüsü olarak sunulan sahte bir Zoom yükleyicisini anlatıyor; Jamf Threat Labs ise oltalamayla alınmış bir parolayı sıfır genişlikli Unicode karakterlerinde saklayan iki aşamalı arka kapı CloudSyncD’yi inceledi. Klonlanmış bir yükleyici gerçek uygulamaya benzer; bu yüzden ilk görünür belirti çoğu zaman yeni sürecin nereye bağlandığıdır. Laboratuvarda: yeni kurulan bir uygulama ilk açılıştan kısa süre sonra bilinmeyen bir hedefe bağlandığında bunu işaretlemek.
Haberlerde:macOS fake installersmacOS backdoors
HisnLabs