Ars Technica’nın 21 Eylül’de bildirdiğine göre, Meta’nın yeni yapay zekâ asistanı Muse’da, bir Mac’teki herhangi bir uygulamanın ya da Terminal komutunun bir kullanıcının Muse hesabını ele geçirmesine izin veren bir açık vardı. Açığı macOS güvenlik araştırmacısı Patrick Wardle buldu; Meta, haberin yayımlanmasından 12 saatten fazla sonra acil bir düzeltme yayımladı.
Muse nedir ve açık neden önemliydi
Muse bir ajan: Meta’ya göre randevu alıyor, form dolduruyor, müşteri hizmetleriyle ilgileniyor, alışveriş yapıyor ve uygulamalarınıza ve hizmetlerinize bağlanıyor. macOS uygulaması (Ars’ın belirttiğine göre Windows sürümü yok) ayrıca WhatsApp, e-posta, takvim ve sosyal medya hesaplarıyla da çalışıyor. Tüm bunları yapmak için çok şey istiyor: hesaplarınıza erişim ve dosyalar, mikrofon ve kamera, konum ve takvimler için macOS izinleri; yani Apple’ın yıllardır sıradan uygulamalardan korumak için uğraştığı kaynakların ta kendisi.
Nasıl işliyordu, sade bir dille
Muse, yerel olarak yüklenmiş herhangi bir uygulamanın ya da çalıştırılan herhangi bir kodun, o kodun macOS izinleri ne olursa olsun değiştirebildiği, belgelenmemiş uzun bir ayar listesi sunuyordu. Çoğu, karanlık mod gibi zararsızdı. Biri değildi: sesinizi yazıya döken sunucunun adresi. Normalde Meta’yı gösterir. Bunu kendi sunucusuna çeviren bir saldırgan, sizi Muse’a tanıtan belirteci (token) alıyor ve bu da hesabın tam kontrolünü veriyordu.
Yani çok kapsamlı bir Mac hırsız yazılımı yazmak zorunda kalmak yerine, doğrudan yapay zekâ asistanının kendisinden yararlanabiliyoruz.
Patrick Wardle, Ars Technica’nın aktardığı şekliyle
Wardle, diske dosya yazan ve fotoğraf çeken kavram kanıtı saldırılar geliştirdiğini, birçok durumda dikkatli bir kullanıcının fark edeceği hiçbir işaret olmadan bunu yaptığını söyledi. Saldırganın karmaşık bir sızmaya da ihtiyacı yoktu: insanları Terminal’e bir komut yapıştırmaya ikna eden dolandırıcılık olan ClickFix’in basit bir varyasyonu yetiyordu. Saldırganın sunucusu sizinle Meta arasında durduğunda, sesli komutlarınıza tüm WhatsApp mesajlarınızın bir arşivini göndermek gibi kendi talimatlarını ekleyebiliyordu.
Wardle bir tasarım tercihine de dikkat çekti: macOS uygulamalara cihaz üzerinde yazıya dökme imkânı sunmasına rağmen Muse dikte kaydını, Meta’nın kaydedebildiği buluta gönderiyor. Ars’a göre Muse bunu kullansaydı bu saldırı mümkün olmayacaktı. Meta’nın açıklamasında sorunun “uzaktan istismar edilebilen bir açık olmadığı” belirtildi. Bundan ayrı olarak Amazon, Muse’u “yetkisiz bir yapay zekâ ajanı” olarak nitelendirip sitesinde alışveriş yapmasını engellemeye başladı.
Muse’u ya da Mac’inizde herhangi bir yapay zekâ ajanını kullanıyorsanız yapmanız gerekenler
- Acil düzeltmenin yüklenmesi için Muse’u güncelleyin.
- Verdiğiniz izinlere bakın: Sistem Ayarları › Gizlilik ve Güvenlik, kameranızı, mikrofonunuzu, dosyalarınızı, konumunuzu ve takvimlerinizi hangi uygulamaların kullanabildiğini listeler. Bir asistanın gerçekten ihtiyaç duymadığı her şeyi kaldırın.
- Bir web sayfasından ya da sohbetten aldığınız bir komutu asla Terminal’e yapıştırmayın. Bu saldırıyı tetiklemek için bu kadarı yetiyordu.
- Bir yapay zekâ ajanına anahtarlarınızı verdiğiniz bir kişi gibi davranın: yalnızca kontrolünü kaybetmeyi göze alabileceğiniz hesapları bağlayın.
FireAI’ın yeri ve yeri olmadığı yer
Saldırı, bir güvenlik duvarının görebildiği tek bir şeye dayanıyordu: normalde bir şirketin sunucularıyla konuşan bir uygulamanın, sesinizi aniden başka bir yere göndermesi.
- FireAI ile bir yapay zekâ uygulamasına, uygulama bazında, yalnızca ihtiyaç duyduğu hedeflere izin verebilirsiniz. Bir asistana yalnızca üreticisinin alan adlarına izin verdiyseniz, yeni ve bilinmeyen bir sunucuya yapılan bağlantı kuralınıza uymaz: FireAI size sorar ya da Saldırı altında modunda doğrudan engeller. O uygulamanın her yere bağlanmasına izin verdiyseniz sormaz; bu yüzden kurallarınızı sınırlayın.
- Dünya haritası her uygulamanın trafiğinin gerçekte nereye gittiğini gösterir; böylece tanımadığınız bir ülkeye ses gönderen bir asistan gizli kalmaz, görünür olur.
- Kamera ve mikrofon (Camera & mic), kamerayı ya da mikrofonu hangi uygulamanın açtığını ve bu arada ne gönderdiğini gösterir.
- FireAI’ın kendi yapay zekâsı Mac’inizde çalışır. Analiz ettiği şey hiçbir buluta gönderilmez; Wardle’ın dikte için işaret ettiği cihaz üzerinde çalışma yaklaşımı budur.
FireAI başka bir şirketin uygulamasındaki bir açığı düzeltemez ve yerel bir programın o uygulamanın ayarlarını değiştirmesini durduramaz. Size verdiği şey, uygulamalarınızın verilerinizi nereye gönderdiğine dair görüş ve veto hakkıdır. FireAI’ı indirin ve 17 gün ücretsiz deneyin. FireAI, HisnLabs tarafından geliştirilmiştir.