# En karriere innen KI-sikkerhet: det du bør vite

> KI-sikkerhet er ikke én jobb, men minst fire: angrepstesting av modeller, sikring av programvaren rundt dem, KI i deteksjonsarbeid og styring av hvordan en organisasjon tar KI i bruk.

FireAI Security & Research Team (HisnLabs) · Published 2026-09-27
Canonical: https://hisnlabs.com/no/blog/karriere-innen-ki-sikkerhet

«KI-sikkerhet» er ikke én stillingstittel i noen arbeidsgivers organisasjonskart. Betegnelsen dekker en gruppe roller som har vokst fram i eksisterende sikkerhetsteam de siste årene, og hver av dem bygger på en ulik del av det tradisjonelle fagfeltet: testing av KI-systemer slik en penetrasjonstester undersøker en applikasjon, sikring av programvaren og datapipelinene rundt en modell i drift, bruk av KI-verktøy i deteksjons- og responsarbeid, og styring av hvordan en organisasjon tar teknologien i bruk i utgangspunktet. Ingen av standardiseringsorganene eller arbeidsstyrkestudiene som siteres nedenfor, behandler disse som én rolle, og det gjør heller ikke denne artikkelen.

## Bakgrunn

Referansepunktet de fleste amerikanske arbeidsgivere og opplæringstilbydere bruker for å beskrive cybersikkerhetsjobber generelt, er NICE Workforce Framework for Cybersecurity, som vedlikeholdes av NIST og publiseres av CISA. Rammeverket deler faget inn i kategorier av arbeidsroller — Oversight and Governance, Design and Development, Implementation and Operation, Protection and Defense og Investigation — og hver kategori er brutt ned i utsagn om oppgaver, kunnskap og ferdigheter i stedet for faste stillingstitler [[1]](https://niccs.cisa.gov/workforce-development/nice-framework). Da denne artikkelen ble skrevet, hadde det publiserte rammeverket ingen egen kategori for KI-spesifikke arbeidsroller; rollene som beskrives her, hører inn under de eksisterende kategoriene og låner begreper fra nyere, KI-spesifikt referansemateriale der rammeverket ikke sier noe.

Dette nyere materialet kommer hovedsakelig fra tre kilder: OWASPs Gen AI Security Project, som publiserer Top 10 for LLM Applications, en liste over risikokategorier som promptinjeksjon, utlevering av sensitiv informasjon, risiko i leverandørkjeden og overdreven handlefrihet [[2]](https://genai.owasp.org/llm-top-10/); MITRE ATLAS, en offentlig kunnskapsbase over angriperes taktikker og teknikker rettet mot KI-systemer, bygget som et supplement til MITREs ATT&CK-rammeverk [[3]](https://atlas.mitre.org/); og NIST AI Risk Management Framework, som strukturerer arbeidet med KI-risiko i fire funksjoner — Govern, Map, Measure og Manage [[4]](https://www.nist.gov/itl/ai-risk-management-framework). En fagperson i hvilken som helst av de fire rollene nedenfor forventes i praksis å kjenne minst ett av disse tre dokumentene.

På arbeidsmarkedssiden registrerte CyberSeek — et felles prosjekt mellom NICE, CompTIA og analyseselskapet Lightcast — 514 359 stillingsannonser for cybersikkerhetsstillinger i det amerikanske markedet mellom mai 2024 og april 2025, mot en anslått global arbeidsstyrke innen cybersikkerhet på rundt 4 970 000 personer. CyberSeek fant at 10 prosent av disse annonsene uttrykkelig oppga KI-ferdigheter som krav [[5]](https://www.cyberseek.org/). Det er et mindretall av annonsene, og det har betydning for hvordan resten av artikkelen bør leses: KI-sikkerhetsarbeid er foreløpig et tillegg til en karriere innen cybersikkerhet, lagt oppå et fundament, og ennå ikke et eget arbeidsmarked.

## Grunnlag

KI-red teaming er den best offentlig dokumenterte av de fire rollene. Microsofts AI Red Team, opprettet i 2018, beskriver oppgaven sin som å teste KI-systemer for både ondsinnet misbruk og vanlige feil, og teamets egen beskrivelse av arbeidet framhever to forskjeller fra testing av konvensjonell programvare: Generative systemer er probabilistiske, så «the same input twice may provide different outputs», noe som krever gjentatte forsøk i stedet for én deterministisk test; og applikasjonene som bygges på disse modellene, «change at a faster rate» enn tradisjonell programvare, så en vurdering som gjøres én gang, blir fortere utdatert [[6]](https://www.microsoft.com/en-us/security/blog/2023/08/07/microsoft-ai-red-team-building-future-of-safer-ai/). Fagfolk i denne rollen bruker MITRE ATLAS som arbeidsreferanse for å katalogisere angrepsteknikker mot maskinlæringssystemer, på samme måte som en konvensjonell red teamer bruker ATT&CK [[3]](https://atlas.mitre.org/).

Modell- og agentsikkerhet er en smalere og mer ingeniørrettet rolle: sikring av applikasjonslaget rundt en modell i drift snarere enn modellens egne vekter eller treningsdata. OWASPs Top 10 for LLM Applications er det nærmeste dette delfeltet har en felles læreplan, og kategoriene fungerer samtidig som en grov stillingsbeskrivelse — promptinjeksjon, usikker håndtering av utdata, forgiftning av data og modeller, overdreven handlefrihet gitt til en autonom agent, og risiko i leverandørkjeden i bibliotekene og tredjepartsmodellene en applikasjon er avhengig av [[2]](https://genai.owasp.org/llm-top-10/). De som gjør dette arbeidet, kommer gjerne fra applikasjonssikkerhet snarere enn datavitenskap, siden den underliggende ferdigheten er å revidere hvordan upålitelige inndata flyter gjennom et system, anvendt på en nyere type system.

Deteksjonsutvikling med KI hører inn under NICEs kategori Protection and Defense og overlapper i stor grad med eksisterende arbeid i sikkerhetsdrift: å bygge reglene, modellene og pipelinene som gjør rå telemetri om til varsler et menneske kan handle på, nå også med KI-genererte eller KI-assisterte signaler blant inndataene [[1]](https://niccs.cisa.gov/workforce-development/nice-framework). MITRE D3FEND, en kunnskapsgraf over defensive mottiltak utviklet i fellesskap av MITRE og NSAs Cybersecurity Directorate, er den nærmeste publiserte referansen for denne siden av arbeidet: Den organiserer forsvar i seks taktikker — Model, Harden, Detect, Isolate, Deceive og Restore — og knytter konkrete mottiltak til de offensive teknikkene de motvirker, slik at deteksjonsutviklere får et felles vokabular for hva et gitt kontrolltiltak faktisk gjør [[7]](https://d3fend.mitre.org/). Ingenting ved D3FEND er KI-spesifikt; rollen består i å anvende det på pipeliner som nå inkluderer KI-avledede signaler.

KI-styring er det nyeste området og, ut fra tilgjengelige data, for tiden det største enkeltområdet for uttalt bekymring blant arbeidsgivere og fagfolk. NISTs eget rammeverk behandler styring som en av sine fire kjernefunksjoner, og den omfatter organisatorisk tilsyn, ansvarsstrukturer og retningslinjer før noe teknisk kontrolltiltak tas i bruk [[4]](https://www.nist.gov/itl/ai-risk-management-framework). ISC2 gjennomførte i september 2026 en avstemning blant mer enn 500 cybersikkerhetsfagfolk på LinkedIn om hva som mest trenger å defineres mens KI endrer faget; 68 prosent valgte «AI governance and compliance», foran rammeverk for trusselmodellering av KI (16 prosent), sikring av KI-datapipeliner (11 prosent) og forsvar mot fiendtlige angrep (5 prosent) [[8]](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority). En avstemning av denne størrelsen og formen er ikke et vitenskapelig utvalg av hele faget, et poeng artikkelen kommer tilbake til under Begrensninger, men retningen i resultatet — at styringsarbeid rangeres høyere enn alle de tekniske kategoriene til sammen — er vanskelig å tolke på noen annen måte.

| Rolle | Hva den gjør | Bakgrunn | Referansemateriale |
| --- | --- | --- | --- |
| KI-red teaming | Undersøker KI-systemer i drift for feil og misbruk, gjentatte ganger, siden utdataene er probabilistiske | Penetrasjonstesting, forskning på fiendtlig maskinlæring | MITRE ATLAS [[3]](https://atlas.mitre.org/) |
| Modell- og agentsikkerhet | Sikrer applikasjonslaget og leverandørkjeden rundt en modell eller agent i drift | Applikasjonssikkerhet | OWASP LLM Top 10 [[2]](https://genai.owasp.org/llm-top-10/) |
| Deteksjonsutvikling | Bygger og justerer pipelinene som gjør telemetri, inkludert KI-avledede signaler, om til varsler | Sikkerhetsdrift, SOC-analyse | MITRE D3FEND [[7]](https://d3fend.mitre.org/) |
| KI-styring | Fastsetter retningslinjer, ansvar og risikokontroller for hvordan en organisasjon tar i bruk KI | Risikostyring, etterlevelse | NIST AI RMF [[4]](https://www.nist.gov/itl/ai-risk-management-framework) |

*Satt sammen fra kildene som siteres i denne artikkelen; ingen av disse er offisielle titler på arbeidsroller i NICE.*

## Analyse

To forhold skiller seg ut når rollene stilles side om side. For det første er ingen av dem et rent brudd med eksisterende cybersikkerhetsarbeid — hver av dem er en tradisjonell disiplin (red teaming, applikasjonssikkerhet, sikkerhetsdrift, styring) anvendt på en nyere type mål. Dette stemmer med det CyberSeeks data antyder: Når bare 10 prosent av annonsene nevner KI-ferdigheter spesifikt, ansetter de fleste arbeidsgivere ennå ikke en egen «KI-sikkerhetsrolle», men ber snarere eksisterende roller om å dekke mer [[5]](https://www.cyberseek.org/). For det andre går veien inn i hver av de fire fortsatt først gjennom et generelt fundament i cybersikkerhet. Utsagnene om oppgaver, kunnskap og ferdigheter i NICE-rammeverkets eksisterende kategorier — ikke et eget KI-spor — er fortsatt grunnlaget arbeidsgivere og opplæringstilbydere beskriver [[1]](https://niccs.cisa.gov/workforce-development/nice-framework), og ISC2s sertifisering på inngangsnivå, Certified in Cybersecurity (CC), som ikke forutsetter arbeidserfaring, dekker fortsatt generelle sikkerhetsprinsipper, styring, identitets- og tilgangsstyring, nettverk og sikkerhetsdrift før noe KI-spesifikt [[9]](https://www.isc2.org/certifications/cc).

Folk kommer inn i disse rollene gjennom et lite antall veletablerte veier snarere enn én enkelt rekrutteringskanal: et fundament i cybersikkerhet (selvlært, en bootcamp eller en grad) fulgt av spesialisering når man først er i et team; en bakgrunn i programvareutvikling eller datavitenskap som beveger seg mot sikkerhet når et team trenger noen til å sikre det de har bygget; og praktisk øving gjennom capture-the-flag-oppgaver, som nå også omfatter moduler om KI-sikkerhet. Carnegie Mellon Universitys CyLab Security Academy driver picoCTF, en gratis plattform som har utvidet seg «from basic security fundamentals to advanced areas such as AI security», og som behandler vedvarende deltakelse, ikke ett enkelt sertifikat, som det beviset på ferdigheter den følger over tid [[10]](https://picoctf.org/). Det arbeidsgivere etterspør, sett på tvers av kildene ovenfor, er gjerne praktisk kjennskap til ett eller flere av NICE, OWASPs LLM Top 10, MITRE ATLAS eller D3FEND og NIST AI RMF, sammen med de generelle sikkerhetsgrunnlagene alle de fire rollene bygger på.

- Grunnleggende cybersikkerhet først: CIA-triaden, forskjellen mellom trusler, sårbarheter og risiko, og sosial manipulering — vokabularet alle de fire rollene forutsetter. FireAI Universitys [Foundations of cybersecurity](https://hisnlabs.com/en/university/cybersecurity-foundations) dekker dette.
- Deretter trusselmodellering: å lære å resonnere om hvem som ville angripe et system og hvorfor, før man spesialiserer seg i en teknikk. Se [Threat modelling and risk](https://hisnlabs.com/en/university/threat-modeling-and-risk).
- Så et spor: offensivt arbeid mot KI-red teaming via [Offensive security: how the red team thinks](https://hisnlabs.com/en/university/offensive-security-red-team) og [Adversarial AI and threat hunting](https://hisnlabs.com/en/university/adversarial-ai-and-threat-hunting); defensivt arbeid mot deteksjonsutvikling via [Defensive operations: how the blue team works](https://hisnlabs.com/en/university/defensive-operations-blue-team) og, for den vertsbaserte siden av problemet, [AI-driven desktop defense](https://hisnlabs.com/en/university/ai-driven-desktop-defense).

## Anbefalinger

1. Bygg det generelle fundamentet før spesialiseringen: Det er fortsatt NICE-rammeverkets eksisterende kategorier, ikke et rent KI-spor, de fleste stillingsbeskrivelser bygger på [[1]](https://niccs.cisa.gov/workforce-development/nice-framework).
2. Les OWASPs Top 10 for LLM Applications, og skum i det minste gjennom casestudiene i MITRE ATLAS; begge er gratis og offentlige, og fagfolk i disse rollene forventes å kjenne dem allerede [[2]](https://genai.owasp.org/llm-top-10/) [[3]](https://atlas.mitre.org/).
3. Øv på en CTF-plattform med oppgaver i KI-sikkerhet, som picoCTF, i stedet for å anse teori alene som tilstrekkelig [[10]](https://picoctf.org/).
4. Hvis styring interesserer deg, bør du studere de fire funksjonene i NIST AI RMF direkte; ISC2s avstemning tyder på at arbeidsgivere for tiden vurderer dette området høyere enn noen enkelt teknisk spesialisering [[4]](https://www.nist.gov/itl/ai-risk-management-framework) [[8]](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority).
5. Følg med på hvordan de underliggende truslene og verktøyene faktisk utvikler seg, i stedet for å støtte deg på én statisk kilde, for eksempel via en løpende forskningslogg som [FireAI Radar](https://hisnlabs.com/en/radar).

> FireAI University publiserer kursene om grunnleggende cybersikkerhet og KI-sikkerhet som det vises til i artikkelen, gratis å lese, og FireAI Radar viser hvilke KI-modeller, verktøy og teknikker laboratoriet tester for tiden. [Download FireAI for Mac](https://hisnlabs.com/en/download)

## Begrensninger

NICE-rammeverket definerer i sin publiserte form ennå ingen KI-spesifikke arbeidsroller; de fire grupperingene i denne artikkelen er denne publikasjonens sammenstilling av tilgrensende standarder, ikke en offisiell taksonomi, og stillingstitlene for det samme arbeidet varierer mye mellom arbeidsgivere [[1]](https://niccs.cisa.gov/workforce-development/nice-framework). ISC2s avstemning om styring fikk mer enn 500 svar fra ett enkelt LinkedIn-publikum som selv valgte å svare; det er et reelt signal om holdninger blant fagfolk, ikke et sannsynlighetsutvalg av faget, og feilmarginen er ikke oppgitt [[8]](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority). CyberSeeks tall på 10 prosent teller alle annonser som i det hele tatt nevner KI-ferdigheter, noe som kan omfatte generell KI-forståelse snarere enn KI-sikkerhetsarbeid spesifikt, og gjelder bare det amerikanske markedet [[5]](https://www.cyberseek.org/). Om lønn: Den eneste innhentede kilden med konkrete lønnstall, ISC2s globale sertifiseringsdata fra 2024, er ikke spesifikk for KI-sikkerhetsroller — den rapporterte globale gjennomsnittslønner fra $94,948 for SSCP-sertifiseringen nær inngangsnivå til $119,577 for CISSP per mai 2024 — og ingen kilde som er brukt i denne artikkelen, oppgir et eget, pålitelig tall for spesialister i KI-sikkerhet [[11]](https://www.isc2.org/Insights/2024/05/ISC2-Reveals-Global-ISC2-Certification-Salaries).

## Hvor FireAI og HisnLabs kommer inn

Ingen av de fire rollene artikkelen beskriver, er noe en brannmur utfører; FireAI er et smalere verktøy på enheten, og den ærlige koblingen til en karriere i dette feltet går gjennom praksis og referansemateriale, ikke gjennom selve produktet.

FireAI er HisnLabs’ eget produkt: en KI-brannmur som kjører direkte på Macen. Den viser hver tilkobling appene dine gjør, i klart språk, og lar deg bestemme hva som forlater Macen din — KI-en kjører lokalt, så trafikken din sendes aldri til oss eller noen andre. HisnLabs’ sikkerhetsforskningsteam er de som holder disse vurderingene pålitelige: de katalogiserer hvilke domener som er vanlig telemetri og hvilke som er en ekte tjeneste, sporer landet og nettverket bak en tilkobling, og trener den lokale modellen (FireAI Pilot-funksjonen) på ekte trafikkmønstre — uten at noe av det forlater Macen din.

Du kan lese om de tekniske valgene bak, eller prøve FireAI i 17 dager, på [FireAI, fra HisnLabs](https://hisnlabs.com/no/download).

## Sources

- [NICE Workforce Framework for Cybersecurity (NIST, via CISA NICCS)](https://niccs.cisa.gov/workforce-development/nice-framework)
- [OWASP Gen AI Security Project: Top 10 for LLM Applications](https://genai.owasp.org/llm-top-10/)
- [MITRE ATLAS: Adversarial Threat Landscape for AI Systems](https://atlas.mitre.org/)
- [NIST AI Risk Management Framework](https://www.nist.gov/itl/ai-risk-management-framework)
- [CyberSeek: cybersecurity supply/demand data (NICE, CompTIA, Lightcast)](https://www.cyberseek.org/)
- [Microsoft Security Blog: AI Red Team, building the future of safer AI](https://www.microsoft.com/en-us/security/blog/2023/08/07/microsoft-ai-red-team-building-future-of-safer-ai/)
- [MITRE D3FEND: knowledge graph of cybersecurity countermeasures](https://d3fend.mitre.org/)
- [ISC2: poll, AI governance emerges as top cybersecurity priority](https://www.isc2.org/insights/2026/09/ai-governance-emerges-as-top-priority)
- [ISC2: Certified in Cybersecurity (CC)](https://www.isc2.org/certifications/cc)
- [picoCTF, Carnegie Mellon University CyLab Security Academy](https://picoctf.org/)
- [ISC2: global certification salary data (2024)](https://www.isc2.org/Insights/2024/05/ISC2-Reveals-Global-ISC2-Certification-Salaries)