# Карьера в кибербезопасности ИИ: что нужно знать

> Кибербезопасность ИИ — не одна профессия, а минимум четыре: тестирование моделей, защита ПО вокруг них, ИИ в обнаружении угроз и управление внедрением ИИ.

FireAI Security & Research Team (HisnLabs) · Published 2026-09-27
Canonical: https://hisnlabs.com/ru/blog/kariera-v-kiberbezopasnosti-ii

«Кибербезопасность ИИ» — это не одна должность в оргструктуре какого-либо работодателя. Так называют группу ролей, которые за последние несколько лет появились внутри существующих команд безопасности, и каждая опирается на свою часть традиционной дисциплины: тестирование систем ИИ так, как пентестер исследует приложение; защита программного обеспечения и конвейеров вокруг развёрнутой модели; применение инструментов ИИ в обнаружении угроз и реагировании на инциденты; и управление тем, как организация вообще внедряет эту технологию. Ни один из органов стандартизации и ни одно из исследований кадрового рынка, на которые ссылается эта статья, не рассматривает их как единую роль; не делает этого и данная статья.

## Контекст

Основной ориентир, которым большинство работодателей и учебных организаций в США пользуются для описания профессий в кибербезопасности в целом, — NICE Workforce Framework for Cybersecurity, который ведёт NIST и публикует CISA. Он делит профессию на категории рабочих ролей — Oversight and Governance, Design and Development, Implementation and Operation, Protection and Defense и Investigation, — каждая из которых описана через формулировки задач, знаний и навыков, а не через фиксированные названия должностей [[1]](https://niccs.cisa.gov/workforce-development/nice-framework). На момент написания опубликованная версия фреймворка не содержит отдельной категории ролей, посвящённой ИИ; роли, описанные в этой статье, располагаются внутри существующих категорий, а там, где фреймворк молчит, заимствуют терминологию из более новых справочных материалов по безопасности ИИ.

Эти более новые материалы происходят в основном из трёх источников: проект OWASP Gen AI Security Project, публикующий Top 10 for LLM Applications — перечень категорий рисков, таких как prompt injection, раскрытие конфиденциальной информации, риски цепочки поставок и избыточные полномочия (excessive agency) [[2]](https://genai.owasp.org/llm-top-10/); MITRE ATLAS — открытая база знаний о тактиках и техниках злоумышленников, направленных против систем ИИ, созданная как дополнение к фреймворку MITRE ATT&CK [[3]](https://atlas.mitre.org/); и NIST AI Risk Management Framework, который структурирует работу с рисками ИИ в четыре функции — Govern, Map, Measure и Manage [[4]](https://www.nist.gov/itl/ai-risk-management-framework). От специалиста в любой из четырёх описанных ниже ролей на практике ожидают знания хотя бы одного из этих трёх документов.

Что касается рынка труда, CyberSeek — совместный проект NICE, CompTIA и аналитической компании Lightcast — зафиксировал 514 359 вакансий в сфере кибербезопасности на рынке США в период с мая 2024 по апрель 2025 года при оценочной численности мировой рабочей силы в кибербезопасности около 4 970 000 человек. Согласно CyberSeek, в 10 процентах этих вакансий навыки работы с ИИ прямо указаны как требование [[5]](https://www.cyberseek.org/). Это меньшинство вакансий, и это важно для понимания остальной части статьи: работа в области безопасности ИИ сегодня — это надстройка над карьерой в кибербезопасности, опирающаяся на базовую подготовку, а не отдельный рынок труда.

## Данные

Ред-тиминг ИИ — наиболее публично задокументированная из четырёх ролей. AI Red Team компании Microsoft, созданная в 2018 году, описывает свою работу как тестирование систем ИИ как на злонамеренное использование, так и на обычные сбои, и в её собственном описании выделены два отличия от тестирования традиционного ПО: генеративные системы вероятностны, так что «один и тот же ввод дважды может дать разные результаты», что требует многократных попыток вместо одного детерминированного теста; а приложения, построенные на этих моделях, «меняются быстрее», чем традиционное ПО, поэтому однократная оценка устаревает раньше [[6]](https://www.microsoft.com/en-us/security/blog/2023/08/07/microsoft-ai-red-team-building-future-of-safer-ai/). Специалисты в этой роли используют MITRE ATLAS как рабочий справочник для каталогизации техник атак на системы машинного обучения — так же, как классический ред-тимер обращается к ATT&CK [[3]](https://atlas.mitre.org/).

Безопасность моделей и агентов — более узкая, инженерно ориентированная роль: защита прикладного уровня вокруг развёрнутой модели, а не её весов или обучающих данных. OWASP Top 10 for LLM Applications ближе всего к общей учебной программе этой подобласти, а его категории одновременно служат приблизительным описанием должностных обязанностей: prompt injection, небезопасная обработка вывода, отравление данных и моделей, избыточные полномочия автономного агента и риски цепочки поставок в библиотеках и сторонних моделях, от которых зависит приложение [[2]](https://genai.owasp.org/llm-top-10/). Люди, выполняющие эту работу, как правило, приходят из безопасности приложений, а не из науки о данных, поскольку ключевой навык — анализ того, как недоверенный ввод проходит через систему, — здесь лишь применяется к системам нового типа.

Инженерия обнаружения с использованием ИИ относится к категории NICE Protection and Defense и во многом пересекается с существующей работой центров мониторинга безопасности: создание правил, моделей и конвейеров, которые превращают сырую телеметрию в оповещения, на которые может отреагировать человек, причём теперь среди входных данных есть и сигналы, сгенерированные ИИ или полученные с его помощью [[1]](https://niccs.cisa.gov/workforce-development/nice-framework). MITRE D3FEND — граф знаний о защитных контрмерах, созданный совместно MITRE и Cybersecurity Directorate АНБ, — ближайший опубликованный справочник для этой стороны работы: он группирует средства защиты в шесть тактик — Model, Harden, Detect, Isolate, Deceive и Restore — и сопоставляет конкретные контрмеры с атакующими техниками, которым они противостоят, давая инженерам обнаружения общий язык для описания того, что на самом деле делает тот или иной механизм контроля [[7]](https://d3fend.mitre.org/). Сам D3FEND не специфичен для ИИ; роль состоит в его применении к конвейерам, которые теперь включают сигналы, полученные от ИИ.

Управление ИИ (AI governance) — самая новая область и, судя по имеющимся данным, сейчас крупнейший отдельный предмет заявленной обеспокоенности работодателей и специалистов. Собственный фреймворк NIST рассматривает управление как одну из четырёх основных функций, охватывающую организационный надзор, структуры ответственности и политику ещё до применения каких-либо технических мер контроля [[4]](https://www.nist.gov/itl/ai-risk-management-framework). В сентябре 2026 года ISC2 провела в LinkedIn опрос более 500 специалистов по кибербезопасности о том, что в первую очередь требует определения по мере того, как ИИ меняет профессию; 68 процентов выбрали «управление ИИ и соответствие требованиям», опередив фреймворки моделирования угроз для ИИ (16 процентов), защиту конвейеров данных ИИ (11 процентов) и защиту от состязательных атак (5 процентов) [[8]](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority). Опрос такого объёма и формата не является научной выборкой по всей профессии — к этому статья возвращается в разделе «Ограничения», — но направление результата, при котором вопросы управления опережают все технические категории вместе взятые, трудно истолковать иначе.

| Роль | Чем занимается | Откуда приходят | Справочные материалы |
| --- | --- | --- | --- |
| Ред-тиминг ИИ | Многократно исследует развёрнутые системы ИИ на сбои и злоупотребления с учётом вероятностного характера их вывода | Тестирование на проникновение, исследования состязательного МО | MITRE ATLAS [[3]](https://atlas.mitre.org/) |
| Безопасность моделей и агентов | Защищает прикладной уровень и цепочку поставок вокруг развёрнутой модели или агента | Безопасность приложений | OWASP LLM Top 10 [[2]](https://genai.owasp.org/llm-top-10/) |
| Инженерия обнаружения | Создаёт и настраивает конвейеры, превращающие телеметрию, включая сигналы от ИИ, в оповещения | Операции безопасности, аналитика SOC | MITRE D3FEND [[7]](https://d3fend.mitre.org/) |
| Управление ИИ | Определяет политику, ответственность и меры контроля рисков при внедрении ИИ в организации | Управление рисками, комплаенс | NIST AI RMF [[4]](https://www.nist.gov/itl/ai-risk-management-framework) |

*Составлено по источникам, цитируемым в этой статье; ни одно из этих названий не является официальной рабочей ролью NICE.*

## Анализ

Если рассмотреть роли рядом, выделяются две особенности. Во-первых, ни одна из них не является разрывом с существующей работой в кибербезопасности: каждая представляет собой традиционную дисциплину (ред-тиминг, безопасность приложений, операции безопасности, управление), применённую к объектам нового типа. Это согласуется с тем, что следует из данных CyberSeek: поскольку лишь 10 процентов вакансий прямо упоминают навыки работы с ИИ, большинство работодателей пока не нанимают на отдельную роль «безопасности ИИ», а скорее расширяют круг задач существующих ролей [[5]](https://www.cyberseek.org/). Во-вторых, путь в каждую из четырёх ролей по-прежнему начинается с общей подготовки в кибербезопасности. Формулировки задач, знаний и навыков для существующих категорий NICE Framework — а не отдельное направление по ИИ — остаются базой, которую описывают работодатели и учебные организации [[1]](https://niccs.cisa.gov/workforce-development/nice-framework), а начальный сертификат ISC2 Certified in Cybersecurity (CC), не требующий опыта работы, по-прежнему охватывает общие принципы безопасности, управление, управление идентификацией и доступом, сети и операции безопасности, прежде чем переходить к чему-либо, связанному с ИИ [[9]](https://www.isc2.org/certifications/cc).

В эти роли приходят немногими проторёнными путями, а не через единый конвейер: базовая подготовка по кибербезопасности (самостоятельно, на интенсивных курсах или в вузе) с последующей специализацией уже внутри команды; опыт в разработке ПО или науке о данных, который смещается в сторону безопасности, когда команде нужен кто-то, кто защитит созданное; и практика в соревнованиях capture-the-flag, которые теперь включают модули по безопасности ИИ. CyLab Security Academy Университета Карнеги — Меллона развивает picoCTF — бесплатную платформу, которая расширилась «от базовых основ безопасности до продвинутых областей, таких как безопасность ИИ», и рассматривает доказательством навыка, которое она отслеживает со временем, устойчивое участие, а не отдельный сертификат [[10]](https://picoctf.org/). Если обобщить перечисленные источники, работодатели обычно ожидают практического знания одного или нескольких документов — NICE, OWASP LLM Top 10, MITRE ATLAS или D3FEND и NIST AI RMF — наряду с общими основами безопасности, на которых построена каждая из четырёх ролей.

- Сначала основы кибербезопасности: триада CIA, различие между угрозами, уязвимостями и рисками, социальная инженерия — понятийный аппарат, который предполагает каждая из четырёх ролей. Этот материал охватывает курс FireAI University [Foundations of cybersecurity](https://hisnlabs.com/en/university/cybersecurity-foundations).
- Затем моделирование угроз: умение рассуждать о том, кто и почему стал бы атаковать систему, до специализации на конкретной технике. См. [Threat modelling and risk](https://hisnlabs.com/en/university/threat-modeling-and-risk).
- Далее — направление: наступательная работа в сторону ред-тиминга ИИ через [Offensive security: how the red team thinks](https://hisnlabs.com/en/university/offensive-security-red-team) и [Adversarial AI and threat hunting](https://hisnlabs.com/en/university/adversarial-ai-and-threat-hunting); оборонительная работа в сторону инженерии обнаружения через [Defensive operations: how the blue team works](https://hisnlabs.com/en/university/defensive-operations-blue-team) и, для защиты на уровне хоста, [AI-driven desktop defense](https://hisnlabs.com/en/university/ai-driven-desktop-defense).

## Рекомендации

1. Формируйте общую базу до специализации: большинство описаний вакансий по-прежнему опираются на существующие категории NICE Framework, а не на отдельное направление по ИИ [[1]](https://niccs.cisa.gov/workforce-development/nice-framework).
2. Прочитайте OWASP Top 10 for LLM Applications и хотя бы бегло просмотрите разборы случаев в MITRE ATLAS; оба ресурса бесплатны, открыты, и от специалистов в этих ролях ожидают, что они уже знакомы с ними [[2]](https://genai.owasp.org/llm-top-10/) [[3]](https://atlas.mitre.org/).
3. Практикуйтесь на CTF-платформе с заданиями по безопасности ИИ, например picoCTF, а не считайте одну теорию достаточной [[10]](https://picoctf.org/).
4. Если вас интересует управление, изучите четыре функции NIST AI RMF непосредственно по первоисточнику; опрос ISC2 указывает, что работодатели сейчас ставят эту область выше любой отдельной технической специализации [[4]](https://www.nist.gov/itl/ai-risk-management-framework) [[8]](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority).
5. Следите за тем, как на самом деле развиваются угрозы и инструменты, а не полагайтесь на один статичный источник, — например, по регулярно обновляемому исследовательскому журналу вроде [FireAI Radar](https://hisnlabs.com/en/radar).

> FireAI University публикует упомянутые в этой статье курсы по основам кибербезопасности и безопасности ИИ в открытом доступе, а FireAI Radar отслеживает, какие модели ИИ, инструменты и техники лаборатория тестирует в данный момент. [Download FireAI for Mac](https://hisnlabs.com/en/download)

## Ограничения

Опубликованная версия NICE Framework пока не определяет рабочих ролей, специфичных для ИИ; четыре группы в этой статье — синтез смежных стандартов, выполненный авторами публикации, а не официальная таксономия, и названия должностей для одной и той же работы у разных работодателей сильно различаются [[1]](https://niccs.cisa.gov/workforce-development/nice-framework). Опрос ISC2 об управлении собрал более 500 ответов от одной аудитории LinkedIn, участники которой сами решили ответить; это реальный сигнал о настроениях специалистов, а не вероятностная выборка по профессии, и погрешность не указана [[8]](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority). Показатель CyberSeek в 10 процентов учитывает любую вакансию, где вообще упоминаются навыки работы с ИИ, что может включать общую ИИ-грамотность, а не именно работу в области безопасности ИИ, и относится только к рынку США [[5]](https://www.cyberseek.org/). О заработной плате: единственный изученный источник с конкретными цифрами — данные ISC2 о сертификациях за 2024 год — не относится специально к ролям в безопасности ИИ: по состоянию на май 2024 года он сообщал о средних мировых зарплатах от $94 948 для близкого к начальному уровню сертификата SSCP до $119 577 для CISSP, — и ни один из источников, использованных для этой статьи, не приводит отдельных надёжных данных для специалистов по безопасности ИИ [[11]](https://www.isc2.org/Insights/2024/05/ISC2-Reveals-Global-ISC2-Certification-Salaries).

## Какое место здесь занимают FireAI и HisnLabs

Ни одна из четырёх описанных в статье ролей не является функцией файрвола; FireAI — более узкий инструмент, работающий на устройстве, и честная связь с карьерой в этой области проходит через практику и справочные материалы, а не через сам продукт.

FireAI — это собственный продукт HisnLabs: ИИ-файрвол, работающий прямо на вашем Mac. Он показывает простым языком каждое соединение, которое устанавливают ваши приложения, и позволяет вам решать, что покидает ваш Mac, — его ИИ работает локально, поэтому ваш трафик никогда не отправляется ни нам, ни кому-либо ещё. Команда исследователей безопасности HisnLabs — это те, кто поддерживает точность этих решений: они каталогизируют, какие домены являются обычной телеметрией, а какие — реальным сервисом, отслеживают страну и сеть, стоящие за соединением, и обучают локальную модель (функцию FireAI Pilot) на реальных шаблонах трафика — и ничего из этого не покидает ваш Mac.

Вы можете прочитать о технических решениях, лежащих в его основе, или попробовать FireAI в течение 17 дней на странице [FireAI от HisnLabs](https://hisnlabs.com/ru/download).

## Sources

- [NICE Workforce Framework for Cybersecurity (NIST, via CISA NICCS)](https://niccs.cisa.gov/workforce-development/nice-framework)
- [OWASP Gen AI Security Project: Top 10 for LLM Applications](https://genai.owasp.org/llm-top-10/)
- [MITRE ATLAS: Adversarial Threat Landscape for AI Systems](https://atlas.mitre.org/)
- [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)
- [CyberSeek: cybersecurity supply/demand data (NICE, CompTIA, Lightcast)](https://www.cyberseek.org/)
- [Microsoft Security Blog: AI Red Team, building the future of safer AI](https://www.microsoft.com/en-us/security/blog/2023/08/07/microsoft-ai-red-team-building-future-of-safer-ai/)
- [MITRE D3FEND: knowledge graph of cybersecurity countermeasures](https://d3fend.mitre.org/)
- [ISC2: poll, AI governance emerges as top cybersecurity priority](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority)
- [ISC2: Certified in Cybersecurity (CC)](https://www.isc2.org/certifications/cc)
- [picoCTF, Carnegie Mellon University CyLab Security Academy](https://picoctf.org/)
- [ISC2: global certification salary data (2024)](https://www.isc2.org/Insights/2024/05/ISC2-Reveals-Global-ISC2-Certification-Salaries)