“Yapay zekâ siber güvenliği”, hiçbir işverenin organizasyon şemasında tek bir unvan olarak yer almaz. Bu ifade, son birkaç yılda mevcut güvenlik ekiplerinin içinde ortaya çıkan ve her biri geleneksel disiplinin farklı bir bölümüne dayanan bir rol kümesini adlandırır: yapay zekâ sistemlerini bir sızma testçisinin bir uygulamayı yokladığı gibi test etmek, devreye alınmış bir modeli çevreleyen yazılımı ve işlem hatlarını güvence altına almak, yapay zekâ araçlarını tespit ve müdahale işinde kullanmak ve bir kuruluşun bu teknolojiyi nasıl benimseyeceğini yönetmek. Aşağıda atıf yapılan standart kuruluşlarının ve iş gücü çalışmalarının hiçbiri bunları tek bir rol olarak ele almaz; bu makale de almaz.
Arka plan
ABD’deki işverenlerin ve eğitim sağlayıcılarının genel olarak siber güvenlik işlerini tanımlarken başvurduğu temel referans, NIST tarafından sürdürülen ve CISA tarafından barındırılan NICE Workforce Framework for Cybersecurity’dir. Çerçeve mesleği iş rolü kategorilerine ayırır: Gözetim ve Yönetişim, Tasarım ve Geliştirme, Uygulama ve İşletme, Koruma ve Savunma ve Soruşturma. Her kategori sabit unvanlar yerine görev, bilgi ve beceri ifadelerine bölünür [1]. Bu yazının kaleme alındığı tarih itibarıyla yayımlanmış çerçevenin yapay zekâya özgü bir iş rolü kategorisi yoktur; bu makalede anlatılan roller çerçevenin mevcut kategorileri içinde yer alır ve çerçevenin sessiz kaldığı noktalarda daha yeni, yapay zekâya özgü referans malzemelerden terim ödünç alır.
Bu yeni malzeme başlıca üç kaynaktan gelir: istem enjeksiyonu, hassas bilgilerin ifşası, tedarik zinciri riski ve aşırı yetki gibi risk kategorilerini listeleyen Top 10 for LLM Applications’ı yayımlayan OWASP Gen AI Security Project [2]; yapay zekâ sistemlerini hedef alan saldırgan taktik ve tekniklerinin MITRE’nin ATT&CK çerçevesine eşlik edecek şekilde oluşturulmuş açık bilgi tabanı MITRE ATLAS [3]; ve yapay zekâ risk çalışmasını dört işleve, yani Govern, Map, Measure ve Manage işlevlerine ayıran NIST AI Risk Management Framework [4]. Aşağıdaki dört rolden herhangi birinde çalışan bir uygulayıcıdan pratikte bu üç belgeden en az birini bilmesi beklenir.
İş gücü piyasası tarafında NICE, CompTIA ve iş gücü analitiği şirketi Lightcast’in ortak projesi olan CyberSeek, Mayıs 2024 ile Nisan 2025 arasında ABD pazarında siber güvenlik pozisyonları için 514.359 iş ilanını izlemiştir; küresel siber güvenlik iş gücü ise yaklaşık 4.970.000 kişi olarak tahmin edilmektedir. CyberSeek, bu ilanların yüzde 10’unun yapay zekâ becerilerini açıkça bir gereklilik olarak andığını tespit etmiştir [5]. Bu, ilanların azınlığıdır ve makalenin geri kalanının nasıl okunması gerektiği açısından önemlidir: yapay zekâ güvenliği işi şu anda bir siber güvenlik kariyerine eklenen, bir temelin üzerine kurulan bir katmandır; henüz kendine ait ayrı bir iş gücü piyasası değildir.
Kanıtlar
Yapay zekâ kırmızı takım çalışması, dört rol arasında kamuya en iyi belgelenmiş olanıdır. 2018’de kurulan Microsoft AI Red Team, görevini yapay zekâ sistemlerini hem kötü niyetli kötüye kullanım hem de sıradan arızalar açısından test etmek olarak tanımlar. Ekibin kendi anlatımı, bu işin geleneksel yazılım testinden iki açıdan ayrıldığını vurgular: üretken sistemler olasılıksaldır, dolayısıyla “aynı girdi iki kez farklı çıktılar verebilir”; bu da tek bir deterministik test yerine tekrarlanan denemeleri zorunlu kılar. Ayrıca bu modellerin üzerine kurulan uygulamalar geleneksel yazılıma göre “daha hızlı değişir”, bu nedenle bir kez yapılan bir değerlendirme daha çabuk eskir [6]. Bu roldeki uygulayıcılar, makine öğrenimi sistemlerine yönelik saldırı tekniklerini kataloglamak için MITRE ATLAS’ı, geleneksel bir kırmızı takım üyesinin ATT&CK’e başvurduğu şekilde çalışma referansı olarak kullanır [3].
Model ve ajan güvenliği daha dar ve mühendisliğe daha yakın bir roldür: modelin kendi ağırlıkları ya da eğitim verisi yerine devreye alınmış bir modeli çevreleyen uygulama katmanının güvenliğiyle ilgilenir. OWASP’ın Top 10 for LLM Applications listesi, bu alt alanın ortak bir müfredata en yakın kaynağıdır ve kategorileri kabaca bir iş tanımı işlevi de görür: istem enjeksiyonu, güvensiz çıktı işleme, veri ve model zehirlenmesi, otonom bir ajana tanınan aşırı yetki ve bir uygulamanın dayandığı kütüphanelerdeki ve üçüncü taraf modellerdeki tedarik zinciri riski [2]. Bu işi yapanlar genellikle veri biliminden değil uygulama güvenliğinden gelir; çünkü temel beceri, güvenilmeyen girdinin bir sistemde nasıl aktığını denetlemektir ve burada bu beceri daha yeni bir sistem türüne uygulanır.
Yapay zekâ kullanan tespit mühendisliği, NICE’ın Koruma ve Savunma kategorisinde yer alır ve mevcut güvenlik operasyonları işiyle büyük ölçüde örtüşür: ham telemetriyi bir insanın üzerinde işlem yapabileceği uyarılara dönüştüren kuralları, modelleri ve işlem hatlarını kurmak; artık girdiler arasında yapay zekâ tarafından üretilen ya da yapay zekâ destekli sinyaller de vardır [1]. MITRE ile NSA’nın Cybersecurity Directorate birimi tarafından ortaklaşa geliştirilen savunma önlemleri bilgi grafiği MITRE D3FEND, işin bu yüzü için yayımlanmış en yakın referanstır: savunmaları altı taktiğe ayırır (Model, Harden, Detect, Isolate, Deceive ve Restore) ve belirli önlemleri karşıladıkları saldırı teknikleriyle eşleştirerek tespit mühendislerine belirli bir kontrolün gerçekte ne yaptığını anlatan ortak bir terminoloji sunar [7]. D3FEND’in hiçbir yönü yapay zekâya özgü değildir; rol, onu artık yapay zekâdan türetilmiş sinyaller de içeren işlem hatlarına uygulamaktır.
Yapay zekâ yönetişimi en yeni alandır ve mevcut kanıtlara göre şu anda işverenlerin ve uygulayıcıların dile getirdiği en büyük tekil ilgi alanıdır. NIST’in kendi çerçevesi yönetişimi dört temel işlevinden biri olarak ele alır; bu işlev, herhangi bir teknik kontrol uygulanmadan önce kurumsal gözetimi, hesap verebilirlik yapılarını ve politikayı kapsar [4]. ISC2, Eylül 2026’da LinkedIn’de 500’den fazla siber güvenlik profesyoneline yapay zekâ mesleği yeniden şekillendirirken en çok neyin tanımlanması gerektiğini soran bir anket yapmıştır; katılımcıların yüzde 68’i “yapay zekâ yönetişimi ve uyumluluk” seçeneğini işaretlemiş, bunu yapay zekâ tehdit modelleme çerçeveleri (yüzde 16), yapay zekâ veri işlem hatlarının güvenliği (yüzde 11) ve karşıt saldırılara karşı savunmalar (yüzde 5) izlemiştir [8]. Bu büyüklükte ve biçimdeki bir anket mesleğin tamamını temsil eden bilimsel bir örneklem değildir; makale bu noktaya Sınırlılıklar bölümünde döner. Yine de sonucun yönü, yani yönetişim işinin tüm teknik kategorilerin toplamından önde gelmesi, başka bir şekilde okunamaz.
| Rol | Ne yapar | Nereden gelir | Referans malzeme |
|---|---|---|---|
| Yapay zekâ kırmızı takımı | Devreye alınmış yapay zekâ sistemlerini, olasılıksal çıktılar nedeniyle tekrar tekrar, arıza ve kötüye kullanım açısından yoklar | Sızma testi, karşıt makine öğrenimi araştırması | MITRE ATLAS [3] |
| Model / ajan güvenliği | Devreye alınmış bir modeli ya da ajanı çevreleyen uygulama katmanını ve tedarik zincirini güvence altına alır | Uygulama güvenliği | OWASP LLM Top 10 [2] |
| Tespit mühendisliği | Yapay zekâdan türetilmiş sinyaller dahil telemetriyi uyarılara dönüştüren işlem hatlarını kurar ve ayarlar | Güvenlik operasyonları, SOC analizi | MITRE D3FEND [7] |
| Yapay zekâ yönetişimi | Bir kuruluşun yapay zekâyı nasıl benimseyeceğine dair politika, hesap verebilirlik ve risk kontrollerini belirler | Risk yönetimi, uyumluluk | NIST AI RMF [4] |
Analiz
Roller yan yana konduğunda iki nokta öne çıkar. Birincisi, hiçbiri mevcut siber güvenlik işinden keskin bir kopuş değildir; her biri daha yeni bir hedef türüne uygulanan geleneksel bir disiplindir (kırmızı takım, uygulama güvenliği, güvenlik operasyonları, yönetişim). Bu, CyberSeek verilerinin ima ettiğiyle örtüşür: ilanların yalnızca yüzde 10’u yapay zekâ becerilerini açıkça andığına göre, işverenlerin çoğu henüz ayrı bir “yapay zekâ güvenliği” rolü için işe alım yapmaktan çok mevcut rollerden daha geniş bir alanı kapsamalarını istemektedir [5]. İkincisi, dört rolün her birine giriş yolu hâlâ önce genel siber güvenlik temellerinden geçer. İşverenlerin ve eğitim sağlayıcılarının tarif ettiği temel çizgi, ayrı bir yapay zekâ kulvarı değil, NICE Framework’ün mevcut kategorilerine ait görev, bilgi ve beceri ifadeleridir [1]. ISC2’nin önceden iş deneyimi gerektirmeyen giriş seviyesi sertifikası Certified in Cybersecurity (CC) de yapay zekâya özgü herhangi bir konudan önce genel güvenlik ilkelerini, yönetişimi, kimlik ve erişim yönetimini, ağları ve güvenlik operasyonlarını kapsar [9].
İnsanlar bu rollere tek bir yoldan değil, az sayıda yerleşik yoldan girer: bir siber güvenlik temeli (kendi kendine öğrenme, yoğun eğitim programı ya da üniversite diploması) ve ardından bir ekibe girdikten sonra uzmanlaşma; bir ekip kurduğu şeyi güvence altına alacak birine ihtiyaç duyduğunda güvenliğe yönelen bir yazılım ya da veri bilimi geçmişi; ve artık yapay zekâ güvenliği modülleri de içeren bayrak yakalama (CTF) alıştırmalarıyla uygulamalı pratik. Carnegie Mellon University’nin CyLab Security Academy’si, “temel güvenlik ilkelerinden yapay zekâ güvenliği gibi ileri alanlara” genişlemiş ücretsiz bir platform olan picoCTF’i yürütür ve beceri kanıtı olarak tek bir sertifikayı değil, zaman içinde izlediği sürekli katılımı esas alır [10]. Yukarıdaki kaynaklar birlikte okunduğunda, işverenlerin talep ettiği şey genellikle NICE, OWASP LLM Top 10, MITRE ATLAS ya da D3FEND ve NIST AI RMF’den bir veya birkaçına dair uygulamaya dönük bir bilgidir; buna dört rolün her birinin üzerine kurulduğu genel güvenlik temelleri eşlik eder.
- Önce siber güvenlik temelleri: CIA üçlüsü, tehdit, zafiyet ve risk arasındaki fark ve sosyal mühendislik; yani dört rolün her birinin varsaydığı terminoloji. FireAI University’nin Siber güvenliğin temelleri dersi bu alanı kapsar.
- Ardından tehdit modelleme: bir tekniğe uzmanlaşmadan önce bir sistemi kimin ve neden hedef alacağı üzerine akıl yürütmeyi öğrenmek. Bkz. Tehdit modelleme ve risk.
- Sonra bir kulvar: yapay zekâ kırmızı takımına yönelik saldırı odaklı çalışma için Saldırı güvenliği: kırmızı takım nasıl düşünür ve Karşıt yapay zekâ ve tehdit avcılığı; tespit mühendisliğine yönelik savunma odaklı çalışma için Savunma operasyonları: mavi takım nasıl çalışır ve sorunun ana bilgisayar tarafı için Yapay zekâ destekli masaüstü savunması.
Öneriler
- Uzmanlaşmadan önce genel temeli kurun: iş tanımlarının çoğunun hâlâ dayandığı şey, yalnızca yapay zekâya ayrılmış bir kulvar değil, NICE Framework’ün mevcut kategorileridir [1].
- OWASP’ın Top 10 for LLM Applications listesini okuyun ve MITRE ATLAS’ın vaka çalışmalarına en azından göz atın; ikisi de ücretsiz ve açıktır ve bu rollerdeki uygulayıcıların zaten bilmesi beklenen belgelerdir [2] [3].
- Teoriyi tek başına yeterli saymak yerine picoCTF gibi yapay zekâ güvenliği görevleri içeren bir CTF platformunda pratik yapın [10].
- Yönetişim ilginizi çekiyorsa NIST AI RMF’in dört işlevini doğrudan inceleyin; ISC2 anketi, işverenlerin bu alanı şu anda tek tek her teknik uzmanlığın üzerinde değerlendirdiğine işaret eder [4] [8].
- Tek bir statik kaynağa güvenmek yerine, temel tehditlerin ve araçların gerçekte nasıl evrildiğini FireAI Radar gibi sürekli güncellenen bir araştırma günlüğü üzerinden takip edin.
Sınırlılıklar
Yayımlandığı hâliyle NICE Framework henüz yapay zekâya özgü iş rolleri tanımlamamaktadır; bu makaledeki dört gruplama, resmî bir sınıflandırma değil, bu yayının komşu standartlardan yaptığı bir sentezdir ve aynı iş için kullanılan unvanlar işverenden işverene büyük farklılık gösterir [1]. ISC2’nin yönetişim anketi, yanıt vermeyi kendisi seçen tek bir LinkedIn kitlesinden 500’den fazla katılımcı toplamıştır; bu, uygulayıcıların eğilimine dair gerçek bir sinyaldir, ancak mesleğin olasılıklı bir örneklemi değildir ve hata payı belirtilmemiştir [8]. CyberSeek’in yüzde 10 rakamı, yapay zekâ becerilerinden herhangi bir şekilde söz eden her ilanı sayar; bu, özel olarak yapay zekâ güvenliği işi yerine genel yapay zekâ okuryazarlığını da içerebilir ve yalnızca ABD pazarını kapsar [5]. Ücretler konusunda: somut maaş rakamları içeren ve erişilen tek kaynak olan ISC2’nin 2024 küresel sertifika verileri yapay zekâ güvenliği rollerine özgü değildir; Mayıs 2024 itibarıyla küresel ortalama maaşları giriş seviyesine yakın SSCP sertifikası için 94.948 $ ile CISSP için 119.577 $ arasında bildirmiştir. Bu makale için başvurulan hiçbir kaynak, yapay zekâ güvenliği uzmanları için ayrı ve güvenilir bir rakam vermemektedir [11].
FireAI ve HisnLabs burada nereye oturuyor
Bu makalede anlatılan dört rolün hiçbiri bir güvenlik duvarının yerine getirdiği bir iş değildir; FireAI daha dar, cihaz üzerinde çalışan bir araçtır ve bu alandaki bir kariyerle dürüst bağlantı ürünün kendisinden değil, pratikten ve referans malzemeden geçer.
FireAI, HisnLabs’in kendi ürünüdür: doğrudan Mac’inizde çalışan, yapay zekâ destekli bir güvenlik duvarı. Uygulamalarınızın kurduğu her bağlantıyı sade bir dille gösterir ve Mac’inizden neyin çıkacağına sizin karar vermenizi sağlar — yapay zekâsı yerel olarak çalışır, yani trafiğiniz asla bize ya da başka birine gönderilmez. HisnLabs güvenlik araştırma ekibi bu kararların isabetli kalmasını sağlayan ekiptir: hangi alan adlarının sıradan telemetri, hangilerinin gerçek bir hizmet olduğunu kataloglar, bir bağlantının ardındaki ülkeyi ve ağı izler ve cihaz üzerindeki modeli (FireAI Pilot özelliği) gerçek trafik örüntüleriyle eğitir — üstelik bunların hiçbiri Mac’inizden dışarı çıkmadan.
Arkasındaki teknik kararları okuyabilir ya da FireAI’yi 17 gün boyunca deneyebilirsiniz: HisnLabs’ten FireAI.