“Cibersegurança de IA” não é um cargo que apareça no organograma de algum empregador. O termo designa um conjunto de funções que surgiram nos últimos anos dentro de equipes de segurança já existentes, cada uma apoiada em uma parte diferente da disciplina tradicional: testar sistemas de IA como um pentester sonda uma aplicação, proteger o software e os pipelines em torno de um modelo implantado, aplicar ferramentas de IA ao trabalho de detecção e resposta e governar, antes de tudo, a forma como uma organização adota a tecnologia. Nenhum dos órgãos de padronização ou estudos de força de trabalho citados abaixo trata essas funções como uma só, e este artigo também não.
Contexto
A referência que a maioria dos empregadores e instituições de treinamento dos EUA usa para descrever os cargos de cibersegurança em geral é o NICE Workforce Framework for Cybersecurity, mantido pelo NIST e hospedado pela CISA. Ele organiza a profissão em categorias de funções de trabalho — Supervisão e Governança, Projeto e Desenvolvimento, Implementação e Operação, Proteção e Defesa, e Investigação —, cada uma dividida em declarações de tarefas, conhecimentos e habilidades, e não em cargos fixos [1]. No momento em que este texto é escrito, o framework publicado não tem uma categoria de função própria para IA; as funções descritas neste artigo ficam dentro das categorias existentes e tomam emprestado o vocabulário de materiais de referência mais recentes, específicos de IA, onde o framework é omisso.
Esse material mais recente vem principalmente de três fontes: o Gen AI Security Project da OWASP, que publica o Top 10 for LLM Applications, uma lista de categorias de risco como injeção de prompt, divulgação de informações sensíveis, risco na cadeia de suprimentos e autonomia excessiva [2]; o MITRE ATLAS, uma base de conhecimento pública de táticas e técnicas adversárias voltadas a sistemas de IA, criada como complemento do framework ATT&CK da MITRE [3]; e o NIST AI Risk Management Framework, que estrutura o trabalho de risco de IA em quatro funções — Govern, Map, Measure e Manage [4]. Na prática, espera-se que um profissional de qualquer uma das quatro funções abaixo conheça pelo menos um desses três documentos.
Do lado do mercado de trabalho, o CyberSeek — projeto conjunto do NICE, da CompTIA e da empresa de análise de mercado de trabalho Lightcast — registrou 514.359 anúncios de vagas de cibersegurança no mercado dos EUA entre maio de 2024 e abril de 2025, diante de uma força de trabalho global em cibersegurança estimada em cerca de 4.970.000 pessoas. Desses anúncios, o CyberSeek constatou que 10 por cento exigiam explicitamente habilidades em IA [5]. É uma minoria das vagas, e isso importa para a leitura do restante deste artigo: o trabalho de segurança de IA é hoje um acréscimo a uma carreira em cibersegurança, construído sobre uma base, e ainda não um mercado de trabalho separado.
Evidências
O red teaming de IA é a mais documentada publicamente das quatro funções. O AI Red Team da Microsoft, criado em 2018, descreve seu trabalho como testar sistemas de IA tanto para uso malicioso quanto para falhas comuns, e seu próprio relato destaca duas diferenças em relação ao teste de software convencional: sistemas generativos são probabilísticos, então “a mesma entrada duas vezes pode produzir saídas diferentes”, o que obriga a repetir tentativas em vez de fazer um único teste determinístico; e as aplicações construídas sobre esses modelos “mudam em ritmo mais rápido” que o software tradicional, de modo que uma avaliação feita uma vez fica desatualizada mais cedo [6]. Os profissionais dessa função usam o MITRE ATLAS como referência de trabalho para catalogar técnicas de ataque contra sistemas de aprendizado de máquina, da mesma forma que um red teamer convencional consultaria o ATT&CK [3].
A segurança de modelos e agentes é uma função mais estreita e mais próxima da engenharia: proteger a camada de aplicação em torno de um modelo implantado, e não os pesos ou os dados de treinamento do próprio modelo. O Top 10 for LLM Applications da OWASP é o que mais se aproxima de um currículo comum nesse subcampo, e suas categorias funcionam também como uma descrição aproximada do cargo — injeção de prompt, tratamento inseguro de saídas, envenenamento de dados e de modelos, autonomia excessiva concedida a um agente autônomo e risco na cadeia de suprimentos das bibliotecas e modelos de terceiros dos quais uma aplicação depende [2]. Quem faz esse trabalho costuma vir da segurança de aplicações, e não da ciência de dados, já que a habilidade de base é auditar como uma entrada não confiável percorre um sistema, aplicada a um tipo mais recente de sistema.
A engenharia de detecção com IA fica dentro da categoria Proteção e Defesa do NICE e se sobrepõe bastante ao trabalho de operações de segurança já existente: construir as regras, os modelos e os pipelines que transformam telemetria bruta em alertas sobre os quais uma pessoa consegue agir, agora incluindo sinais gerados ou assistidos por IA entre as entradas [1]. O MITRE D3FEND, um grafo de conhecimento de contramedidas defensivas criado em conjunto pela MITRE e pela Cybersecurity Directorate da NSA, é a referência publicada mais próxima desse lado do trabalho: ele organiza as defesas em seis táticas — Model, Harden, Detect, Isolate, Deceive e Restore — e associa contramedidas específicas às técnicas ofensivas que elas neutralizam, dando aos engenheiros de detecção um vocabulário comum para o que um determinado controle de fato faz [7]. Nada no D3FEND é específico de IA; a função consiste em aplicá-lo a pipelines que agora incluem sinais derivados de IA.
A governança de IA é a área mais nova e, pelas evidências disponíveis, hoje a maior fonte isolada de preocupação declarada por empregadores e profissionais. O próprio framework do NIST trata a governança como uma de suas quatro funções centrais, abrangendo supervisão organizacional, estruturas de responsabilização e políticas antes da aplicação de qualquer controle técnico [4]. Em setembro de 2026, a ISC2 fez uma enquete no LinkedIn com mais de 500 profissionais de cibersegurança, perguntando o que mais precisa ser definido à medida que a IA transforma a profissão; 68 por cento escolheram “governança e conformidade de IA”, à frente de frameworks de modelagem de ameaças de IA (16 por cento), proteção de pipelines de dados de IA (11 por cento) e defesas contra ataques adversariais (5 por cento) [8]. Uma enquete desse tamanho e formato não é uma amostra científica de toda a profissão, ponto que este artigo retoma em Limitações, mas a direção do resultado — o trabalho de governança superando todas as categorias técnicas somadas — dificilmente admite outra leitura.
| Função | O que faz | De onde vem | Material de referência |
|---|---|---|---|
| Red teaming de IA | Sonda sistemas de IA implantados em busca de falhas e usos indevidos, repetidamente, dado que as saídas são probabilísticas | Testes de invasão, pesquisa em ML adversarial | MITRE ATLAS [3] |
| Segurança de modelos / agentes | Protege a camada de aplicação e a cadeia de suprimentos em torno de um modelo ou agente implantado | Segurança de aplicações | OWASP LLM Top 10 [2] |
| Engenharia de detecção | Constrói e ajusta os pipelines que transformam telemetria, incluindo sinais derivados de IA, em alertas | Operações de segurança, análise de SOC | MITRE D3FEND [7] |
| Governança de IA | Define políticas, responsabilidades e controles de risco para a adoção de IA por uma organização | Gestão de riscos, conformidade | NIST AI RMF [4] |
Análise
Duas coisas se destacam quando as funções são postas lado a lado. Primeiro, nenhuma delas representa uma ruptura com o trabalho de cibersegurança existente — cada uma é uma disciplina tradicional (red teaming, segurança de aplicações, operações de segurança, governança) aplicada a um tipo mais recente de alvo. Isso coincide com o que os dados do CyberSeek indicam: com apenas 10 por cento dos anúncios citando habilidades em IA, a maioria dos empregadores ainda não contrata um cargo distinto de “segurança de IA”, mas pede que os cargos existentes cubram mais terreno [5]. Segundo, o caminho de entrada em cada uma das quatro ainda passa primeiro pelos fundamentos gerais de cibersegurança. As declarações de tarefas, conhecimentos e habilidades das categorias existentes do NICE Framework — e não uma trilha separada de IA — continuam sendo a base descrita por empregadores e instituições de treinamento [1], e a credencial de entrada da ISC2, a Certified in Cybersecurity (CC), que não pressupõe experiência profissional prévia, ainda cobre princípios gerais de segurança, governança, gestão de identidades e acessos, redes e operações de segurança antes de qualquer conteúdo específico de IA [9].
As pessoas chegam a essas funções por um pequeno número de caminhos conhecidos, e não por um único funil: uma base em cibersegurança (autodidata, bootcamp ou graduação) seguida de especialização já dentro de uma equipe; uma formação em software ou ciência de dados que se volta para a segurança quando uma equipe precisa de alguém para proteger o que construiu; e prática direta em competições capture-the-flag, que agora incluem módulos de segurança de IA. A CyLab Security Academy da Carnegie Mellon University mantém o picoCTF, uma plataforma gratuita que se expandiu “dos fundamentos básicos de segurança para áreas avançadas como a segurança de IA” e considera a participação contínua, e não um certificado isolado, como a evidência de habilidade que acompanha ao longo do tempo [10]. O que os empregadores pedem, a julgar pelas fontes acima, costuma ser um conhecimento prático de um ou mais destes: NICE, o LLM Top 10 da OWASP, MITRE ATLAS ou D3FEND e o NIST AI RMF, além dos fundamentos gerais de segurança sobre os quais cada uma das quatro funções é construída.
- Primeiro, os fundamentos de cibersegurança: a tríade CIA, a diferença entre ameaças, vulnerabilidades e risco, e a engenharia social — o vocabulário que cada uma das quatro funções pressupõe. O curso Foundations of cybersecurity da FireAI University cobre esse terreno.
- Em seguida, a modelagem de ameaças: aprender a raciocinar sobre quem atacaria um sistema e por quê, antes de se especializar em uma técnica. Veja Threat modelling and risk.
- Depois, uma trilha: o trabalho ofensivo, rumo ao red teaming de IA, com Offensive security: how the red team thinks e Adversarial AI and threat hunting; o trabalho defensivo, rumo à engenharia de detecção, com Defensive operations: how the blue team works e, para o lado do problema que se passa no próprio computador, AI-driven desktop defense.
Recomendações
- Construa a base geral antes da especialização: as categorias existentes do NICE Framework, e não uma trilha exclusiva de IA, ainda são aquilo em que a maioria das descrições de vaga se apoia [1].
- Leia o Top 10 for LLM Applications da OWASP e pelo menos percorra os estudos de caso do MITRE ATLAS; ambos são gratuitos, públicos e são os documentos que se espera que os profissionais dessas funções já conheçam [2] [3].
- Pratique em uma plataforma de CTF que inclua desafios de segurança de IA, como o picoCTF, em vez de considerar a teoria suficiente por si só [10].
- Se a governança interessa a você, estude diretamente as quatro funções do NIST AI RMF; a enquete da ISC2 sugere que os empregadores hoje valorizam essa área acima de qualquer especialização técnica isolada [4] [8].
- Acompanhe como as ameaças e as ferramentas de fato evoluem, em vez de depender de uma única fonte estática, por meio de um registro de pesquisa contínuo como o FireAI Radar.
Limitações
O NICE Framework, na forma publicada, ainda não define funções de trabalho específicas de IA; os quatro agrupamentos deste artigo são uma síntese desta publicação a partir de padrões vizinhos, não uma taxonomia oficial, e os nomes de cargo para o mesmo trabalho variam muito entre empregadores [1]. A enquete de governança da ISC2 reuniu mais de 500 respostas de um único público do LinkedIn que escolheu responder; é um sinal real da percepção dos profissionais, não uma amostra probabilística da profissão, e sua margem de erro não é informada [8]. O número de 10 por cento do CyberSeek conta qualquer anúncio que mencione habilidades em IA, o que pode incluir letramento geral em IA, e não especificamente trabalho de segurança de IA, e cobre apenas o mercado dos EUA [5]. Sobre remuneração: a única fonte consultada com valores salariais concretos, os dados globais de certificação de 2024 da ISC2, não é específica de funções de segurança de IA — ela informou salários médios globais de US$ 94.948 para a credencial SSCP, próxima do nível de entrada, a US$ 119.577 para a CISSP, em maio de 2024 — e nenhuma fonte consultada para este artigo apresenta um valor separado e confiável para especialistas em segurança de IA [11].
Onde FireAI e HisnLabs entram nessa história
Nenhuma das quatro funções descritas neste artigo é algo que um firewall executa; o FireAI é uma ferramenta mais restrita, que roda no dispositivo, e a ligação honesta com uma carreira nessa área passa pela prática e pelo material de referência, não pelo produto em si.
O FireAI é o produto da HisnLabs: um firewall com IA que roda direto no seu Mac. Ele mostra, em linguagem simples, cada conexão que seus aplicativos fazem e deixa você decidir o que sai do seu Mac — a IA roda localmente, então seu tráfego nunca é enviado para nós nem para ninguém. A equipe de pesquisa em segurança da HisnLabs é quem mantém essas decisões confiáveis: cataloga quais domínios são telemetria comum e quais são um serviço de verdade, rastreia o país e a rede por trás de uma conexão e treina o modelo local (o recurso FireAI Pilot) com padrões reais de tráfego, sem que nada disso saia do seu Mac.
Você pode ler as decisões técnicas por trás dele, ou testar o FireAI por 17 dias, em FireAI, da HisnLabs.