«Cibersegurança de IA» não é um cargo único no organograma de qualquer empregador. Designa um conjunto de funções que surgiram nos últimos anos dentro das equipas de segurança existentes, cada uma assente numa parte diferente da disciplina tradicional: testar sistemas de IA da forma como um pentester sonda uma aplicação, proteger o software e os pipelines que rodeiam um modelo implementado, aplicar ferramentas de IA ao trabalho de deteção e resposta, e governar a forma como uma organização adota a tecnologia. Nenhum dos organismos de normalização ou estudos sobre a força de trabalho citados abaixo as trata como uma única função, e este artigo também não.
Contexto
A referência que a maioria dos empregadores e formadores dos EUA usa para descrever as profissões de cibersegurança em geral é o NICE Workforce Framework for Cybersecurity, mantido pelo NIST e alojado pela CISA. Organiza a profissão em categorias de funções — Oversight and Governance, Design and Development, Implementation and Operation, Protection and Defense, e Investigation — cada uma decomposta em enunciados de tarefas, conhecimentos e competências e não em cargos fixos [1]. À data em que este artigo é escrito, o quadro publicado não tem uma categoria de funções própria para a IA; as funções descritas neste artigo inserem-se nas categorias existentes, recorrendo ao vocabulário de material de referência mais recente e específico da IA onde o quadro é omisso.
Esse material mais recente provém sobretudo de três fontes: o Gen AI Security Project da OWASP, que publica o Top 10 for LLM Applications, uma lista de categorias de risco como injeção de prompts, divulgação de informação sensível, risco na cadeia de fornecimento e agência excessiva [2]; o MITRE ATLAS, uma base de conhecimento pública de táticas e técnicas adversárias dirigidas a sistemas de IA, concebida como complemento do quadro ATT&CK da MITRE [3]; e o NIST AI Risk Management Framework, que estrutura o trabalho sobre risco de IA em quatro funções — Govern, Map, Measure e Manage [4]. Na prática, espera-se que um profissional em qualquer das quatro funções abaixo conheça pelo menos um destes três documentos.
Do lado do mercado de trabalho, a CyberSeek — um projeto conjunto da NICE, da CompTIA e da empresa de análise laboral Lightcast — registou 514 359 anúncios de emprego para cargos de cibersegurança no mercado dos EUA entre maio de 2024 e abril de 2025, face a uma força de trabalho mundial em cibersegurança estimada em cerca de 4 970 000 pessoas. Desses anúncios, a CyberSeek verificou que 10 por cento exigiam especificamente competências em IA [5]. Trata-se de uma minoria dos anúncios, o que condiciona a leitura do resto deste artigo: o trabalho em segurança de IA é, atualmente, um acréscimo a uma carreira em cibersegurança, assente numa base já existente, e não ainda um mercado de trabalho autónomo.
Dados
O red teaming de IA é a mais documentada publicamente das quatro funções. A AI Red Team da Microsoft, criada em 2018, descreve a sua missão como testar sistemas de IA quanto a utilização maliciosa e a falhas comuns, e o seu próprio relato do trabalho destaca duas diferenças em relação ao teste de software convencional: os sistemas generativos são probabilísticos, pelo que «the same input twice may provide different outputs», o que obriga a tentativas repetidas em vez de um único teste determinístico; e as aplicações construídas sobre estes modelos «change at a faster rate» do que o software tradicional, pelo que uma avaliação feita uma vez fica desatualizada mais depressa [6]. Os profissionais desta função usam o MITRE ATLAS como referência de trabalho para catalogar técnicas de ataque contra sistemas de aprendizagem automática, tal como um red teamer convencional usaria o ATT&CK [3].
A segurança de modelos e agentes é uma função mais restrita e mais orientada para a engenharia: proteger a camada aplicacional em torno de um modelo implementado, e não os pesos ou os dados de treino do próprio modelo. O Top 10 for LLM Applications da OWASP é o que mais se aproxima de um programa comum neste subdomínio, e as suas categorias servem também de descrição aproximada da função — injeção de prompts, tratamento inseguro dos resultados, envenenamento de dados e de modelos, agência excessiva concedida a um agente autónomo e risco na cadeia de fornecimento das bibliotecas e modelos de terceiros de que uma aplicação depende [2]. Quem faz este trabalho tende a vir da segurança de aplicações e não da ciência de dados, uma vez que a competência de base é auditar a forma como dados não fiáveis circulam num sistema, aplicada a um tipo de sistema mais recente.
A engenharia de deteção com recurso a IA insere-se na categoria Protection and Defense da NICE e sobrepõe-se em grande medida ao trabalho existente de operações de segurança: construir as regras, os modelos e os pipelines que transformam telemetria em bruto em alertas sobre os quais uma pessoa pode agir, incluindo agora entre os dados de entrada sinais gerados ou assistidos por IA [1]. O MITRE D3FEND, um grafo de conhecimento de contramedidas defensivas construído em conjunto pela MITRE e pela Cybersecurity Directorate da NSA, é a referência publicada mais próxima deste lado do trabalho: organiza as defesas em seis táticas — Model, Harden, Detect, Isolate, Deceive e Restore — e associa contramedidas específicas às técnicas ofensivas que contrariam, dando aos engenheiros de deteção um vocabulário comum para o que um dado controlo efetivamente faz [7]. Nada no D3FEND é específico da IA; a função consiste em aplicá-lo a pipelines que passaram a incluir sinais derivados de IA.
A governação da IA é a área mais recente e, com base nos dados disponíveis, atualmente a que concentra a maior preocupação declarada de empregadores e profissionais. O próprio quadro do NIST trata a governação como uma das suas quatro funções centrais, abrangendo a supervisão organizacional, as estruturas de responsabilização e as políticas, antes de qualquer controlo técnico ser aplicado [4]. Em setembro de 2026, a ISC2 realizou no LinkedIn uma sondagem a mais de 500 profissionais de cibersegurança, perguntando o que mais precisa de ser definido à medida que a IA transforma a profissão; 68 por cento escolheram «AI governance and compliance», à frente dos quadros de modelação de ameaças de IA (16 por cento), da proteção dos pipelines de dados de IA (11 por cento) e das defesas contra ataques adversariais (5 por cento) [8]. Uma sondagem com esta dimensão e este formato não é uma amostra científica de toda a profissão, ponto a que este artigo regressa em Limitações, mas o sentido do resultado — o trabalho de governação à frente de todas as categorias técnicas somadas — dificilmente admite outra leitura.
| Função | O que faz | Proveniência | Material de referência |
|---|---|---|---|
| Red teaming de IA | Sonda repetidamente sistemas de IA implementados em busca de falhas e utilizações indevidas, dados os resultados probabilísticos | Testes de intrusão, investigação em ML adversarial | MITRE ATLAS [3] |
| Segurança de modelos / agentes | Protege a camada aplicacional e a cadeia de fornecimento em torno de um modelo ou agente implementado | Segurança de aplicações | OWASP LLM Top 10 [2] |
| Engenharia de deteção | Constrói e afina os pipelines que transformam telemetria, incluindo sinais derivados de IA, em alertas | Operações de segurança, análise em SOC | MITRE D3FEND [7] |
| Governação da IA | Define políticas, responsabilidades e controlos de risco para a forma como uma organização adota a IA | Gestão de risco, conformidade | NIST AI RMF [4] |
Análise
Duas observações sobressaem quando as funções são colocadas lado a lado. Primeiro, nenhuma delas representa uma rutura com o trabalho de cibersegurança existente — cada uma é uma disciplina tradicional (red teaming, segurança de aplicações, operações de segurança, governação) aplicada a um tipo de alvo mais recente. Isto coincide com o que os dados da CyberSeek sugerem: com apenas 10 por cento dos anúncios a mencionar especificamente competências em IA, a maioria dos empregadores não está ainda a contratar uma função distinta de «segurança de IA», mas antes a pedir às funções existentes que abranjam mais terreno [5]. Segundo, o percurso de entrada em cada uma das quatro continua a passar primeiro por bases gerais de cibersegurança. Os enunciados de tarefas, conhecimentos e competências das categorias existentes do NICE Framework — e não uma via separada de IA — continuam a ser a base que empregadores e formadores descrevem [1], e a credencial de entrada da ISC2, Certified in Cybersecurity (CC), que não pressupõe experiência profissional prévia, abrange ainda princípios gerais de segurança, governação, gestão de identidades e acessos, redes e operações de segurança antes de qualquer conteúdo específico de IA [9].
As pessoas entram nestas funções por um pequeno número de percursos consolidados e não por uma via única: uma base em cibersegurança (autodidata, bootcamp ou licenciatura) seguida de especialização já dentro de uma equipa; uma formação em software ou ciência de dados que evolui para a segurança quando uma equipa precisa de alguém que proteja o que construiu; e prática através de exercícios capture-the-flag, que incluem agora módulos de segurança de IA. A CyLab Security Academy da Carnegie Mellon University mantém o picoCTF, uma plataforma gratuita que se alargou «from basic security fundamentals to advanced areas such as AI security», e trata a participação continuada, e não um único certificado, como a prova de competência que acompanha ao longo do tempo [10]. O que os empregadores pedem, a julgar pelas fontes acima, tende a ser um conhecimento prático de um ou mais dos seguintes: NICE, o LLM Top 10 da OWASP, MITRE ATLAS ou D3FEND, e o NIST AI RMF, a par dos fundamentos gerais de segurança em que assentam as quatro funções.
- Primeiro, os fundamentos da cibersegurança: a tríade CIA, a distinção entre ameaças, vulnerabilidades e risco, e a engenharia social — o vocabulário que todas as quatro funções pressupõem. O curso Foundations of cybersecurity da FireAI University cobre esta matéria.
- Depois, a modelação de ameaças: aprender a raciocinar sobre quem atacaria um sistema e porquê, antes de se especializar numa técnica. Consulte Threat modelling and risk.
- Em seguida, uma especialização: trabalho ofensivo rumo ao red teaming de IA, através de Offensive security: how the red team thinks e Adversarial AI and threat hunting; trabalho defensivo rumo à engenharia de deteção, através de Defensive operations: how the blue team works e, para a vertente do problema centrada no anfitrião, AI-driven desktop defense.
Recomendações
- Construa a base geral antes da especialização: são as categorias existentes do NICE Framework, e não uma via exclusivamente de IA, que continuam a servir de base à maioria das descrições de funções [1].
- Leia o Top 10 for LLM Applications da OWASP e percorra, pelo menos, os estudos de caso do MITRE ATLAS; ambos são gratuitos e públicos, e são os documentos que se espera que os profissionais destas funções já conheçam [2] [3].
- Pratique numa plataforma CTF que inclua desafios de segurança de IA, como o picoCTF, em vez de considerar suficiente apenas a teoria [10].
- Se a governação lhe interessa, estude diretamente as quatro funções do NIST AI RMF; a sondagem da ISC2 sugere que os empregadores valorizam atualmente esta área acima de qualquer especialização técnica isolada [4] [8].
- Acompanhe a evolução efetiva das ameaças e das ferramentas, em vez de depender de uma única fonte estática, através de um registo de investigação contínuo como o FireAI Radar.
Limitações
O NICE Framework, na versão publicada, ainda não define funções específicas de IA; os quatro agrupamentos deste artigo são uma síntese desta publicação a partir de normas adjacentes, não uma taxonomia oficial, e os cargos para o mesmo trabalho variam muito entre empregadores [1]. A sondagem da ISC2 sobre governação reuniu mais de 500 respostas de um único público do LinkedIn, autosselecionado; é um sinal real da opinião dos profissionais, não uma amostra probabilística da profissão, e a sua margem de erro não é indicada [8]. O valor de 10 por cento da CyberSeek conta qualquer anúncio que mencione competências em IA, o que pode incluir literacia geral em IA e não especificamente trabalho de segurança de IA, e abrange apenas o mercado dos EUA [5]. Quanto à remuneração: a única fonte consultada com valores salariais concretos, os dados mundiais de certificação da ISC2 de 2024, não é específica de funções de segurança de IA — indicava salários médios mundiais desde $94,948 para a credencial SSCP, próxima do nível de entrada, até $119,577 para a CISSP, em maio de 2024 — e nenhuma fonte consultada para este artigo apresenta um valor separado e fiável para especialistas em segurança de IA [11].
O papel do FireAI e da HisnLabs
Nenhuma das quatro funções descritas neste artigo é algo que uma firewall desempenhe; o FireAI é uma ferramenta mais restrita, no dispositivo, e a ligação honesta a uma carreira nesta área passa pela prática e por material de referência, não pelo próprio produto.
O FireAI é o produto da HisnLabs: uma firewall com IA que corre diretamente no seu Mac. Mostra, em linguagem clara, cada ligação que as suas aplicações fazem e deixa-o decidir o que sai do seu Mac — a IA funciona localmente, pelo que o seu tráfego nunca é enviado para nós nem para mais ninguém. A equipa de investigação em segurança da HisnLabs é quem mantém essas decisões fiáveis: cataloga que domínios são simples telemetria e quais são um serviço real, acompanha o país e a rede por detrás de uma ligação e treina o modelo local (a funcionalidade FireAI Pilot) com padrões de tráfego reais, sem que nada disso saia do seu Mac.
Pode ler as decisões técnicas por detrás dele, ou experimentar o FireAI durante 17 dias, em FireAI, da HisnLabs.