Gecenin geç saatlerinde birçok insanın içini döktüğü sırdaş bir arkadaş ya da bir doktor değil: bir sohbet botu. İsviçreli gizlilik şirketi Proton’un TechRadar’ın aktardığı yeni araştırması bunu ve özündeki çelişkiyi rakamlarla ortaya koyuyor.
Anketin bulguları
- Britanyalı yapay zekâ kullanıcılarının üçte ikisi (yüzde 66) bir yapay zekâ asistanıyla en az bir hassas konuyu konuştu.
- En yaygın olanlar: kişisel finans (yüzde 33), iş ya da kariyer sorunları (yüzde 32), ruh sağlığı (yüzde 27) ve ilişkiler (yüzde 20).
- Buna karşın İngiltere’deki kullanıcıların yüzde 42’si yapay zekâ şirketlerinin özel bilgilerini koruyacağına çok az güveniyor ya da hiç güvenmiyor; yüzde 11’i ise onlara hiç güvenmiyor.
- Yüzde 64’ü konuşmalarının reklam ya da pazarlama profilleri oluşturmak için kullanılmasından endişe ediyor; yüzde 52’si sırlarının gelecekteki yapay zekâ modellerini eğitmek için kullanılmasından endişe ediyor.
- Yüzde 82’si, gizlilik odaklı tasarlanmış bir sohbet botunu kullanma olasılıklarının daha yüksek olacağını söyledi.
Güvenmediğiniz bir şeye neden sır verirsiniz? Rapora göre yanıt “yargılanmama özgürlüğü”: bir sohbet botu günün her saatinde yanıt verir ve asla şaşkınlık ya da utançla tepki göstermez.
Yapay zekâ bizim hakkımızda bir arama motorunun öğrenebileceğinden çok daha fazlasını öğreniyor. Yalnızca soru sormuyoruz. Sağlığımız, mali durumumuz ve ilişkilerimiz hakkında son derece kişisel bağlamlar paylaşıyoruz. Ve teknoloji hakkımızda bu kadar çok şey bildiğinde, gizlilik sonradan düşünülecek bir şey olamaz.
Eamonn Maguire, Proton Yapay Zekâ Mühendisliği Direktörü, TechRadar’da alıntılandığı şekliyle
Kendi gizlilik odaklı sohbet botu Lumo’yu işleten ve tipik bir konuşmanın ne kadar çok şey açığa vurduğunu göstermek için AI Paper Trail adlı bir araç başlatan Proton, elbette burada tarafsız bir taraf değil. Ama rakamlarındaki endişe tanıdık. Maguire’ın ifadesiyle insanlar, yapay zekâ şirketlerine “iç dünyalarını ve en büyük sırlarını”, onları koruyacakları varsayımıyla teslim ediyor; oysa “yapay zekânın iş modeli bunlardan öğrenmeye dayanıyor.”
Yapay zekâ için en basit gizlilik kuralı: nerede çalışıyor?
Bir gizlilik politikası bir vaattir. Hesaplamanın nerede yapıldığı ise bir olgudur. Bir sohbet botu bir şirketin sunucularında çalıştığında, yazdığınız her şey oraya gider ve sonrasında ne olacağı o şirketin ayarlarına, iş modeline ve kayıtlarını yasal olarak talep edebilecek kişilere bağlıdır. Bir model kendi cihazınızda çalıştığında, ona verdiğiniz şey cihazınızda kalır.
Cihaz üzerindeki modellerin sınırları var: daha küçükler ve açık uçlu sohbet için büyük bulut modelleri kadar yetenekli değiller. Ancak odaklı bir görev için küçük bir yerel model yeterli ve hiç göndermediği şeyi sızdıramayacak tek tür de bu.
Bir sohbet botu konuşmasını daha küçük tutan beş alışkanlık
Birincisi, sohbet botunun ayarlarını açın ve konuşmalarınızın modellerini geliştirmek ya da eğitmek için kullanılmasına izin veren seçeneği arayın; çoğu hizmet bunu kapatmanın bir yolunu sunar ve bu seçenek nadiren varsayılan olarak kapalıdır. İkincisi, hassas her şey için geçici ya da gizli bir sohbet modu arayın ve hizmetin bu sohbetleri ne kadar süre sakladığını söylediğini kontrol edin.
Üçüncüsü, sizi ya da başkalarını tanımlayan şeyleri dışarıda bırakın: tam adlar, adresler, hesap numaraları, sağlık bilgileri, belge fotoğrafları. Kaydı yapıştırmak yerine durumu anlatın. Dördüncüsü, artık ihtiyacınız olmayan eski konuşmaları silin; tutmadığınız bir geçmiş daha sonra açığa çıkamaz. Beşincisi, sohbet botu eklentilerine ve bağlı hesaplara dikkat edin, çünkü her biri verilerinizin gidebileceği yeni bir yerdir.
FireAI bu kuralı nasıl uyguluyor
- Mac’inizdeki bir bağlantının ne olduğunu sade bir dille açıklayan FireAI yapay zekâsı tamamen Mac’inizde çalışır. Analiz ettiği şey asla bir bulut yapay zekâsına gönderilmez ve kimsenin eğitim veri kümesine giremez. Cihaz üzerindeki yapay zekâ modeline bakın.
- Kullandığınız yapay zekâ uygulamaları için dünya haritası her birinin nereye bağlandığını gösterir ve uygulama bazlı kurallar hangilerinin internete ulaşabileceğine karar vermenizi sağlar.
- Çok temkinli mod ayrıca bilinen telemetriyi de engeller; böylece arka planda sizin hakkınızda rapor gönderen uygulamalar reddedilir.
FireAI bir bulut sohbet botunu gizli yapamaz ve ona zaten yazdıklarınızı geri alamaz. İki alışkanlık yardımcı olur: sohbet botunuzun konuşmalarınızla eğitimi kapatmanıza izin verip vermediğini kontrol edin ve en hassas şeyleri (sağlık bilgileri, hesap numaraları, başkalarının özel bilgileri) bulut sohbetlerinden tamamen uzak tutun.
FireAI’ı indirin ve 17 gün ücretsiz deneyin. FireAI, HisnLabs tarafından geliştirilmiştir.