„KI-Cybersicherheit“ ist auf keinem Organigramm eine einzelne Stellenbezeichnung. Der Begriff bezeichnet eine Gruppe von Rollen, die in den letzten Jahren innerhalb bestehender Sicherheitsteams entstanden sind und jeweils auf einem anderen Teil der klassischen Disziplin aufbauen: KI-Systeme so testen, wie ein Penetrationstester eine Anwendung untersucht, die Software und Pipelines rund um ein eingesetztes Modell absichern, KI-Werkzeuge in Erkennung und Reaktion einsetzen und steuern, wie eine Organisation die Technologie überhaupt einführt. Keine der unten zitierten Normungsorganisationen oder Arbeitsmarktstudien behandelt dies als eine einzige Rolle, und dieser Artikel tut es ebenfalls nicht.
Hintergrund
Der Bezugspunkt, den die meisten US-Arbeitgeber und Schulungsanbieter zur Beschreibung von Cybersicherheitsberufen allgemein verwenden, ist das NICE Workforce Framework for Cybersecurity, das von NIST gepflegt und von CISA bereitgestellt wird. Es gliedert den Beruf in Kategorien von Arbeitsrollen (Oversight and Governance, Design and Development, Implementation and Operation, Protection and Defense sowie Investigation), die jeweils in Aussagen zu Aufgaben, Wissen und Fähigkeiten statt in feste Stellenbezeichnungen unterteilt sind [1]. Zum Zeitpunkt der Abfassung enthält das veröffentlichte Framework keine eigene KI-spezifische Rollenkategorie; die hier beschriebenen Rollen liegen innerhalb der bestehenden Kategorien und übernehmen dort, wo das Framework schweigt, Begriffe aus neueren, KI-spezifischen Referenzwerken.
Diese neueren Werke stammen vor allem aus drei Quellen: dem Gen AI Security Project von OWASP, das die Top 10 for LLM Applications veröffentlicht, eine Liste von Risikokategorien wie Prompt-Injection, Offenlegung sensibler Informationen, Lieferkettenrisiken und übermäßige Handlungsbefugnis [2]; MITRE ATLAS, einer öffentlichen Wissensbasis zu Taktiken und Techniken von Angreifern gegen KI-Systeme, die als Ergänzung zu MITREs ATT&CK-Framework aufgebaut ist [3]; und dem NIST AI Risk Management Framework, das die Arbeit an KI-Risiken in vier Funktionen gliedert: Govern, Map, Measure und Manage [4]. Von Fachleuten in jeder der vier unten beschriebenen Rollen wird in der Praxis erwartet, mindestens eines dieser drei Dokumente zu kennen.
Auf Seiten des Arbeitsmarkts erfasste CyberSeek, ein gemeinsames Projekt von NICE, CompTIA und dem Arbeitsmarktanalyseunternehmen Lightcast, zwischen Mai 2024 und April 2025 514,359 Stellenanzeigen für Cybersicherheitspositionen auf dem US-Markt, bei einer geschätzten weltweiten Cybersicherheitsbelegschaft von etwa 4,970,000 Personen. Laut CyberSeek nannten 10 Prozent dieser Anzeigen ausdrücklich KI-Kenntnisse als Anforderung [5]. Das ist eine Minderheit der Ausschreibungen, und das ist für das Verständnis des restlichen Artikels wichtig: KI-Sicherheitsarbeit ist derzeit eine Ergänzung einer Cybersicherheitslaufbahn, die auf einem Fundament aufsetzt, und noch kein eigener Arbeitsmarkt.
Befunde
KI-Red-Teaming ist die am besten öffentlich dokumentierte der vier Rollen. Microsofts AI Red Team, 2018 gegründet, beschreibt seine Aufgabe als Prüfung von KI-Systemen sowohl auf böswilligen Missbrauch als auch auf gewöhnliches Versagen. Die eigene Darstellung der Arbeit hebt zwei Unterschiede zum Testen herkömmlicher Software hervor: Generative Systeme sind probabilistisch, sodass „the same input twice may provide different outputs“, was wiederholte Versuche statt eines einzelnen deterministischen Tests erfordert; und die auf diesen Modellen aufbauenden Anwendungen „change at a faster rate“ als herkömmliche Software, sodass eine einmalige Bewertung schneller veraltet [6]. Fachleute in dieser Rolle nutzen MITRE ATLAS als Arbeitsreferenz zur Katalogisierung von Angriffstechniken gegen Machine-Learning-Systeme, so wie ein klassischer Red Teamer ATT&CK heranziehen würde [3].
Modell- und Agentensicherheit ist eine engere, stärker ingenieurtechnisch ausgerichtete Rolle: die Absicherung der Anwendungsschicht rund um ein eingesetztes Modell statt der Gewichte oder Trainingsdaten des Modells selbst. Die Top 10 for LLM Applications von OWASP kommen einem gemeinsamen Lehrplan dieses Teilgebiets am nächsten, und ihre Kategorien dienen zugleich als grobe Stellenbeschreibung: Prompt-Injection, unsichere Verarbeitung von Ausgaben, Daten- und Modellvergiftung, übermäßige Handlungsbefugnis eines autonomen Agenten sowie Lieferkettenrisiken in den Bibliotheken und Drittanbietermodellen, von denen eine Anwendung abhängt [2]. Wer diese Arbeit macht, kommt meist aus der Anwendungssicherheit und nicht aus der Data Science, denn die zugrunde liegende Fähigkeit besteht darin, zu prüfen, wie nicht vertrauenswürdige Eingaben durch ein System fließen, angewandt auf eine neuere Art von System.
Detection Engineering mit KI liegt in der NICE-Kategorie Protection and Defense und überschneidet sich stark mit der bestehenden Arbeit im Sicherheitsbetrieb: Regeln, Modelle und Pipelines bauen, die Rohtelemetrie in Warnungen verwandeln, auf die ein Mensch reagieren kann, wobei zu den Eingaben inzwischen auch KI-erzeugte oder KI-gestützte Signale gehören [1]. MITRE D3FEND, ein Wissensgraph defensiver Gegenmaßnahmen, den MITRE gemeinsam mit dem Cybersecurity Directorate der NSA aufgebaut hat, ist die nächstliegende veröffentlichte Referenz für diese Seite der Arbeit: Er ordnet Abwehrmaßnahmen sechs Taktiken zu (Model, Harden, Detect, Isolate, Deceive und Restore) und verknüpft konkrete Gegenmaßnahmen mit den offensiven Techniken, denen sie begegnen. So erhalten Detection Engineers ein gemeinsames Vokabular dafür, was eine bestimmte Kontrolle tatsächlich leistet [7]. D3FEND selbst ist nicht KI-spezifisch; die Rolle besteht darin, es auf Pipelines anzuwenden, die inzwischen KI-abgeleitete Signale enthalten.
KI-Governance ist das jüngste und nach den verfügbaren Belegen derzeit das größte einzelne Thema, das Arbeitgeber und Fachleute als Anliegen nennen. Das Framework von NIST behandelt Governance als eine seiner vier Kernfunktionen; sie umfasst organisatorische Aufsicht, Verantwortlichkeitsstrukturen und Richtlinien, bevor irgendeine technische Kontrolle greift [4]. ISC2 befragte im September 2026 auf LinkedIn mehr als 500 Cybersicherheitsfachleute, was angesichts des Wandels durch KI am dringendsten definiert werden müsse; 68 Prozent wählten „AI governance and compliance“, vor Frameworks zur Bedrohungsmodellierung für KI (16 Prozent), der Absicherung von KI-Datenpipelines (11 Prozent) und der Abwehr adversarialer Angriffe (5 Prozent) [8]. Eine Umfrage dieser Größe und Form ist keine wissenschaftliche Stichprobe des gesamten Berufsstands, worauf dieser Artikel unter Einschränkungen zurückkommt, doch die Richtung des Ergebnisses, nach der Governance-Arbeit alle technischen Kategorien zusammen übertrifft, lässt kaum eine andere Lesart zu.
| Rolle | Aufgabe | Herkunft | Referenzmaterial |
|---|---|---|---|
| KI-Red-Teaming | Untersucht eingesetzte KI-Systeme wiederholt auf Fehler und Missbrauch, da ihre Ausgaben probabilistisch sind | Penetrationstests, Forschung zu adversarialem ML | MITRE ATLAS [3] |
| Modell- / Agentensicherheit | Sichert die Anwendungsschicht und die Lieferkette rund um ein eingesetztes Modell oder einen Agenten | Anwendungssicherheit | OWASP LLM Top 10 [2] |
| Detection Engineering | Baut und justiert die Pipelines, die Telemetrie, einschließlich KI-abgeleiteter Signale, in Warnungen verwandeln | Sicherheitsbetrieb, SOC-Analyse | MITRE D3FEND [7] |
| KI-Governance | Legt Richtlinien, Verantwortlichkeiten und Risikokontrollen für die Einführung von KI in einer Organisation fest | Risikomanagement, Compliance | NIST AI RMF [4] |
Analyse
Stellt man die Rollen nebeneinander, fallen zwei Punkte auf. Erstens ist keine von ihnen ein klarer Bruch mit der bestehenden Cybersicherheitsarbeit: Jede ist eine klassische Disziplin (Red Teaming, Anwendungssicherheit, Sicherheitsbetrieb, Governance), angewandt auf eine neuere Art von Ziel. Das deckt sich mit dem, was die Daten von CyberSeek nahelegen: Da nur 10 Prozent der Anzeigen ausdrücklich KI-Kenntnisse nennen, stellen die meisten Arbeitgeber noch keine eigenständige „KI-Sicherheits“-Rolle ein, sondern erwarten, dass bestehende Rollen mehr abdecken [5]. Zweitens führt der Einstieg in jede der vier Rollen weiterhin zuerst über allgemeine Grundlagen der Cybersicherheit. Die Aussagen zu Aufgaben, Wissen und Fähigkeiten in den bestehenden Kategorien des NICE Framework, kein separater KI-Zweig, bleiben die Grundlage, die Arbeitgeber und Schulungsanbieter beschreiben [1], und das Einstiegszertifikat von ISC2, Certified in Cybersecurity (CC), das keine Berufserfahrung voraussetzt, behandelt weiterhin allgemeine Sicherheitsprinzipien, Governance, Identitäts- und Zugriffsverwaltung, Netzwerke und Sicherheitsbetrieb, bevor irgendetwas KI-Spezifisches folgt [9].
Der Einstieg in diese Rollen erfolgt über wenige etablierte Wege statt über eine einzige Pipeline: ein Fundament in Cybersicherheit (autodidaktisch, über ein Bootcamp oder ein Studium) mit anschließender Spezialisierung innerhalb eines Teams; ein Hintergrund in Softwareentwicklung oder Data Science, der sich in Richtung Sicherheit verschiebt, sobald ein Team jemanden braucht, der das Gebaute absichert; und praktische Übung in Capture-the-Flag-Wettbewerben, die inzwischen auch Module zur KI-Sicherheit enthalten. Die CyLab Security Academy der Carnegie Mellon University betreibt picoCTF, eine kostenlose Plattform, die sich „from basic security fundamentals to advanced areas such as AI security“ erweitert hat und anhaltende Teilnahme statt eines einzelnen Zertifikats als den Kompetenznachweis betrachtet, den sie über die Zeit verfolgt [10]. Über die genannten Quellen hinweg verlangen Arbeitgeber meist praktische Kenntnisse in einem oder mehreren der Werke NICE, OWASP LLM Top 10, MITRE ATLAS oder D3FEND und NIST AI RMF, neben den allgemeinen Sicherheitsgrundlagen, auf denen jede der vier Rollen aufbaut.
- Zuerst die Grundlagen der Cybersicherheit: die CIA-Triade, die Unterscheidung zwischen Bedrohung, Schwachstelle und Risiko sowie Social Engineering, also das Vokabular, das jede der vier Rollen voraussetzt. Foundations of cybersecurity der FireAI University behandelt diese Themen.
- Als Nächstes Bedrohungsmodellierung: lernen, vor der Spezialisierung auf eine Technik zu durchdenken, wer ein System angreifen würde und warum. Siehe Threat modelling and risk.
- Dann ein Schwerpunkt: offensive Arbeit in Richtung KI-Red-Teaming über Offensive security: how the red team thinks und Adversarial AI and threat hunting; defensive Arbeit in Richtung Detection Engineering über Defensive operations: how the blue team works und, für die hostbasierte Seite des Problems, AI-driven desktop defense.
Empfehlungen
- Bauen Sie das allgemeine Fundament vor der Spezialisierung auf: Die bestehenden Kategorien des NICE Framework, kein reiner KI-Zweig, sind weiterhin die Grundlage der meisten Stellenbeschreibungen [1].
- Lesen Sie die Top 10 for LLM Applications von OWASP und überfliegen Sie zumindest die Fallstudien von MITRE ATLAS; beide sind kostenlos und öffentlich, und von Fachleuten in diesen Rollen wird erwartet, dass sie diese Dokumente bereits kennen [2] [3].
- Üben Sie auf einer CTF-Plattform mit Aufgaben zur KI-Sicherheit, etwa picoCTF, statt Theorie allein für ausreichend zu halten [10].
- Wenn Sie sich für Governance interessieren, studieren Sie die vier Funktionen des NIST AI RMF direkt; die Umfrage von ISC2 legt nahe, dass Arbeitgeber diesen Bereich derzeit höher einstufen als jede einzelne technische Spezialisierung [4] [8].
- Verfolgen Sie, wie sich die zugrunde liegenden Bedrohungen und Werkzeuge tatsächlich entwickeln, statt sich auf eine einzelne statische Quelle zu verlassen, etwa über ein fortlaufendes Forschungsprotokoll wie den FireAI Radar.
Einschränkungen
Das NICE Framework definiert in seiner veröffentlichten Form noch keine KI-spezifischen Arbeitsrollen; die vier Gruppen in diesem Artikel sind eine Synthese benachbarter Standards durch diese Publikation, keine offizielle Taxonomie, und die Stellenbezeichnungen für dieselbe Arbeit unterscheiden sich zwischen Arbeitgebern stark [1]. Die Governance-Umfrage von ISC2 erreichte mehr als 500 Teilnehmende aus einem einzigen LinkedIn-Publikum, die sich selbst zur Antwort entschieden; das ist ein echtes Signal für die Stimmung unter Fachleuten, aber keine Zufallsstichprobe des Berufsstands, und eine Fehlermarge wird nicht angegeben [8]. Der Wert von 10 Prozent bei CyberSeek zählt jede Anzeige, die überhaupt KI-Kenntnisse erwähnt, was allgemeine KI-Kompetenz statt spezifischer KI-Sicherheitsarbeit einschließen kann, und bezieht sich nur auf den US-Markt [5]. Zur Vergütung: Die einzige abgerufene Quelle mit konkreten Gehaltszahlen, die globalen Zertifizierungsdaten von ISC2 aus dem Jahr 2024, ist nicht spezifisch für KI-Sicherheitsrollen. Sie nannte weltweite Durchschnittsgehälter von $94,948 für das einstiegsnahe Zertifikat SSCP bis $119,577 für CISSP, Stand Mai 2024, und keine der für diesen Artikel herangezogenen Quellen liefert eine gesonderte, verlässliche Zahl für KI-Sicherheitsspezialisten [11].
Wo FireAI und HisnLabs ins Spiel kommen
Keine der vier hier beschriebenen Rollen übernimmt eine Firewall; FireAI ist ein engeres Werkzeug auf dem Gerät, und der redliche Weg in dieses Berufsfeld führt über Praxis und Referenzmaterial, nicht über das Produkt selbst.
FireAI ist das eigene Produkt von HisnLabs: eine KI-Firewall für den Mac, die direkt auf dem Gerät läuft. Sie zeigt jede Verbindung Ihrer Apps in verständlicher Sprache und lässt Sie entscheiden, was Ihren Mac verlässt — die KI arbeitet lokal, Ihr Datenverkehr wird also nie an uns oder irgendjemand anderen gesendet. Das Sicherheitsforschungsteam von HisnLabs sorgt dafür, dass diese Entscheidungen verlässlich bleiben: Es katalogisiert, welche Domains gewöhnliche Telemetrie und welche ein echter Dienst sind, verfolgt Land und Netzwerk hinter einer Verbindung und trainiert das lokale Modell (die FireAI-Pilot-Funktion) mit echten Verkehrsmustern — ohne dass irgendetwas davon Ihren Mac verlässt.
Die technischen Entscheidungen dahinter können Sie nachlesen — oder FireAI 17 Tage lang ausprobieren — unter FireAI, von HisnLabs.