# Google'ın eski güvenlik yöneticisi, çocuklara yönelik yapay zekâ için bağımsız "çarpışma testleri" istiyor

> Google'ın eski Güven ve Güvenlik yöneticisi, yapay zekânın çocuklara sosyal medyadan fazla zarar verebileceğini söylüyor ve ürünler çocuklara ulaşmadan bağımsız test istiyor.

FireAI Security & Research Team (HisnLabs) · Published 2026-09-28
Canonical: https://hisnlabs.com/tr/news/ai-chatbots-children-safety-crash-tests

Google'ın eski Güven ve Güvenlik Başkan Yardımcısı Tom Siegel, 24 Eylül 2026'da yapay zekânın çocuklar için sosyal medyadan daha zararlı olabileceğini ve sektörün sorunu kendi başına çözmeyeceğini söyledi [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm). Bu açıklama, iki başka yayın organının ailelerin arkadaş sohbet botlarından teknolojinin kendisine dair daha geniş kaygılara kadar yapay zekâyla ilgili riskleri nasıl tarttığını incelediği haftaya denk geldi [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/) [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html).

## Arka plan

Siegel, TrustLab girişimini kurmadan önce Google'da Güven ve Güvenlik birimini yönetti. Bugün, çocuk hakları savunucusu Common Sense Media'nın Anthropic ve OpenAI Foundation desteğiyle Mayıs 2026'da kurduğu Youth AI Safety Institute'un ilk icra direktörü [[2]](https://www.cyprus-mail.com/2026/09/24/google-safety-pioneer-urges-ai-slowdown-over-risks-to-children). Enstitünün belirtilen amacı, reşit olmayanların kullandığı ya da onlara pazarlanan yapay zekâ ürünlerini değerlendirmektir.

## Bulgular

> Yapay zekânın çocuklara yaptıkları açısından gerçekten berbat bir durumdayız.
>
> — Tom Siegel, Google'ın eski Güven ve Güvenlik Başkan Yardımcısı, Reuters'ın aktarımıyla

Siegel'in önerisi somut: Reuters'ın aktardığına göre "kamuya açık yapay zekâ araçlarının riskini ölçecek, araç çarpışma testlerine benzer bağımsız standartları yaygınlaştırmak" [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm). "Sektörün dışarıdan yardım almadan bunu kendi başına çözeceği fikri gerçekçi değil" diyen Siegel, ürünler çocuklara ulaşmadan önce test edilmesini istediği zararlar arasında intiharı, psikozu ve eleştirel düşünmenin zayıflamasını saydı [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm).

NewsNation'ın haberinde anılan ve Common Sense Media'nın 2025'te 13-17 yaş arası 1.060 ABD'li gençle yaptığı ankete göre gençlerin yüzde 72'si en az bir kez bir yapay zekâ arkadaşı kullanmış, yüzde 52'si düzenli olarak kullanıyor; yaklaşık üçte biri ciddi konuları bir insan yerine bir botla konuştuğunu söylüyor [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Aynı haber, bir yapay zekâ arkadaş sohbet botuyla yoğun bir ilişkinin ardından 2024'te hayatını kaybeden 14 yaşındaki Sewell Setzer III'ün ölümünü de ele alıyor; annesi Character.AI ve Google'a dava açtı ve şirketler davayı 2026'nın başlarında uzlaşmayla kapattı [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Youth AI Safety Institute'tan Robbie Torney, NewsNation'a "Açıkçası şu anda laboratuvarlar kendi ödevlerini kendileri notluyor" dedi [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html).

CNN ise 28 Eylül'de ayrı bir haberde, kendi anketine göre Amerikalıların yüzde 64'ünün yapay zekânın insanlığın varlığını tehdit edecek kadar güçlenmesini biraz ya da çok olası gördüğünü bildirdi; bu, Reuters ve NewsNation'ın anlattığı ruh sağlığı zararlarından daha geniş ve daha spekülatif bir kaygıdır ve CNN'in görüşüne başvurduğu araştırmacıların hepsi tarafından aynı ağırlıkta görülmüyor [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/).

> Az sayıda şirket, az sayıda insan hepimizi rehin tutuyor.
>
> — Liz Black, ebeveyn, CNN'in aktarımıyla

## Aileler için sonuçlar

Haberlerin hiçbiri özel olarak macOS'u ilgilendirmese de Mac kullanan bir genci olan bir hane, bu kaynakların anlattığı örüntüden etkilenir. Common Sense Media'nın rakamları gençlerin çoğunun bir yapay zekâ arkadaşını zaten denediğini ve bir kısmının onu bir araçtan fazlası olarak gördüğünü gösteriyor [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Reuters ve NewsNation'ın bildirdiği ölçülebilir kaygı, yani ruh sağlığına zarar ve duygusal bağımlılık, CNN'in aktardığı yapay zekânın gidişatına ilişkin daha spekülatif kaygıdan farklıdır; ikisi tek bir bulgu gibi ele alınmamalıdır [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm) [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/) [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html).

Bu ayrım, bir ebeveynin gerçekte neye müdahale edebileceği açısından önemlidir. Yapay zekânın bir teknoloji olarak nereye gittiğine dair genel bir endişe, evdeki bir Mac'in hiçbir ayarıyla giderilemez. Bir gencin bugün, evdeki Mac'te zaten yüklü bir uygulamada konuştuğu bir sohbet botu ise ebeveynin bakabileceği, hakkında soru sorabileceği ve gerekirse kısıtlayabileceği bir şeydir; aşağıdaki öneriler bu yüzden haberin bu kısmına odaklanıyor [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm).

> Bir çocuğun Mac'inde hangi uygulamaların zaten yapay zekâ sohbet hizmetleriyle konuştuğunu görün. FireAI'ı 17 gün ücretsiz deneyin ve Dünya haritasına birlikte bakın. [Download FireAI for Mac](https://hisnlabs.com/en/download)

## Öneriler

1. Çocuğa yönetici olmayan, kendine ait standart bir macOS kullanıcı hesabı açın; böylece koyduğunuz sınırlar ortak bir oturuma değil, gerçekten ona uygulanır.
2. Uygulama sınırları ve İletişim Sınırları koymak için Ekran Süresi'ni (Sistem Ayarları › Ekran Süresi) kullanın ve bir uygulamayı yüklemeden önce yaş derecelendirmesine bakın.
3. Çocuğun hangi sohbet botu ya da "arkadaş" uygulamalarını kullandığını doğrudan sorun; Youth AI Safety Institute, sosyal yapay zekâ arkadaş uygulamalarını reşit olmayanlar için kabul edilemez risk olarak değerlendirdi.
4. Bir gencin bir sohbet botuna bağlanmasını cezalandırma konusu değil, sakin ve açık bir konuşmanın konusu olarak ele alın; araştırmacıların Setzer vakasında dikkat çektiği örüntü de buna işaret ediyor.
5. Hiçbir içerik filtresinin bir sohbetin içinde söylenenleri okumadığını unutmayın; denetim yalnızca uygulamaları engellemeyi değil, çocukla konuşmayı da içermelidir.

## FireAI açısından önemi

FireAI bir sohbet izleyicisi değil, Mac için bir ağ güvenlik duvarıdır. [Ebeveyn denetimleri](https://hisnlabs.com/tr/docs/parental-controls), Mac'teki her uygulama ve tarayıcı için site ve uygulama kategorilerini ağ hedefine göre bütünüyle engeller. Tek tıkla açılan [Child Safety First](https://hisnlabs.com/tr/docs/set-up-child-safety-first) ön ayarı NSFW, Kumar, Uyuşturucu ve Oyun kalkanlarını açar ve Mac'i yalnızca Safari ile sınırlar; [uygulama başına kurallar](https://hisnlabs.com/tr/docs/per-app-rules) ise ebeveynin çevrim içi neye izin verileceğine uygulama uygulama karar vermesini sağlar.

Burada yapmadıkları da önemlidir: Bir sohbet botu uygulaması hiçbir engel listesinde değilse ve çevrim içi olmasına izin verilmişse, FireAI içinde geçen konuşmanın içeriğini okuyamaz ya da değerlendiremez. Bir yapay zekâ sohbetinin sağlıklı ya da yaşa uygun olup olmadığını anlayamaz, söylenenlerde çocuk istismarına hazırlık (grooming) ya da duygusal bağımlılık örüntülerini tespit edemez; bir içerik moderatörü ya da ruh sağlığı aracı değildir. Neyin internete bağlanabileceğine karar verir; bir bağlantıya izin verildikten sonra yazılanları görmez.

> Bir aile Mac'i için başlangıç noktası olarak Child Safety First'ü açın ve FireAI'ı 17 gün ücretsiz deneyin. [Download FireAI for Mac](https://hisnlabs.com/en/download)

## Sınırlamalar

Kaynaklar, haberlerin kendisinin de birleştirmediği iki ayrı kaygıyı anlatıyor: Reuters ve NewsNation'ın bildirdiği, yapay zekâ arkadaşı kullanımından doğan ölçülebilir zarar ve CNN'in aktardığı, yapay zekânın toplumsal gidişatına dair daha geniş ve daha spekülatif endişe [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm) [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/) [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Haberlerin hiçbiri Youth AI Safety Institute'un hangi yapay zekâ arkadaş uygulamalarını değerlendirdiğini belirtmiyor ya da test yöntemini ayrıntılı biçimde anlatmıyor. Herhangi bir yapay zekâ şirketinin ya da düzenleyicinin Siegel'in önerdiği türden çarpışma testi benzeri güvenlik testlerini benimseyip benimsemediği ya da böyle bir standardın piyasadaki ürünlere hangi takvimle uygulanabileceği de belirlenmiş değil.

Haberler, Common Sense Media anketindeki gençlerin kaçının Mac, iPhone ya da başka bir cihaz kullandığını da söylemiyor; dolayısıyla burada kurulan hane bağlantısı, dört kaynağın hiçbirindeki cihaza özgü verilerden değil, yapay zekâ arkadaşı kullanımının ABD'li gençler arasında genel olarak ne kadar yaygın olduğundan çıkarılmıştır.

FireAI'ın Ebeveyn denetimleri hakkında daha fazlasını okuyun ya da [HisnLabs'in FireAI'sini](https://hisnlabs.com/tr/download) 17 gün ücretsiz deneyin.

## Sources

- [Insurance Journal (Reuters, Kenrick Cai), 24 Sep 2026: Ex-Google Safety Chief Warns AI Could Harm Children More Than Social Media](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm)
- [Cyprus Mail (Reuters), 24 Sep 2026: Google safety pioneer urges AI slowdown over risks to children](https://www.cyprus-mail.com/2026/09/24/google-safety-pioneer-urges-ai-slowdown-over-risks-to-children)
- [ABC 17 News (CNN, Brittany Shammas), 28 Sep 2026: Parents confront a new fear: Could AI end humanity before their kids grow up?](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/)
- [Yahoo News (NewsNation, Hena Doba), 27 Sep 2026: AI chatbots face new safety test as teens turn to bots for companionship](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html)