Sikkerhet og AI-nyheter

KI-regulering og LLM-sikkerhet · Av FireAI Security & Research Team · Publisert

Håndhevingen av EUs KI-forordning for KI-modeller til allmenne formål begynte 2. august 2026, og brukerne beholder sin egen del av ansvaret

Kommisjonen kan nå håndheve KI-forordningen overfor leverandører av KI-modeller til allmenne formål. Dette ligger igjen hos virksomheter som tar i bruk LLM-er.

A set of scales beside the FireAI rules mascot, illustrating the EU AI Act’s enforcement of general-purpose AI model rules and the share left to deployers.

Fra 2. august 2026 kan Europakommisjonen håndheve EUs KI-forordning overfor leverandører av KI-modeller til allmenne formål, og bøter blir mulig, ifølge Kommisjonens veiledning og tidsplanen for gjennomføringen [1] [5]. Noen dager før hadde Digital Omnibus on AI, en endringsforordning, trådt i kraft 27. juli og flyttet fristene for høyrisikosystemer til desember 2027 og august 2028 [3]. For en virksomhet som tar i bruk en stor språkmodell (LLM) fra en leverandør, er modelleverandørens plikter og virksomhetens egne plikter to forskjellige ting.

Bakgrunn

KI-forordningens regler for KI-modeller til allmenne formål begynte å gjelde 2. august 2025. Kommisjonens retningslinjer lister opp pliktene til en modelleverandør: teknisk dokumentasjon for myndighetene og KI-kontoret, informasjon til utviklere lenger ned i verdikjeden om modellens evner og begrensninger, en retningslinje for opphavsrett, et offentlig sammendrag av treningsinnholdet og en EU-representant for leverandører etablert utenfor Unionen [1]. Retningslinjene regner en modell som allmenn når den er trent med mer enn 10^23 flyttallsoperasjoner og kan generere språk, tekst-til-bilde eller tekst-til-video, og beskriver dette som en veiledende terskel. Modeller trent med mer enn 10^25 operasjoner antas å innebære systemisk risiko [1].

Hva kildene beskriver

Kommisjonens FAQ oppgir tre datoer: 2. august 2025, da pliktene begynner med en innledende etterlevelsesperiode for dem som har sluttet seg til Code of Practice; 2. august 2026, da full håndheving med mulige bøter starter; og 2. august 2027, da modeller som allerede var på markedet før reglene begynte å gjelde, må etterleve dem [1]. Tidsplanen fra Kommisjonens AI Act Service Desk sier at håndhevingen for KI-modeller til allmenne formål og for åpenhetspliktene begynner 2. august 2026 [5]. En analyse fra et advokatfirma publisert 24. juli 2026 beskriver den tidligere ordningen som en henstandsperiode på ett år for dem som har signert General-Purpose AI Code of Practice, med slutt 2. august 2026 [2].

Digital Omnibus er vedtatt, ikke bare foreslått. En analyse fra et advokatfirma og et forskningsnotat fra Cloud Security Alliance melder at forordning (EU) 2026/1744 ble kunngjort i EU-tidende 24. juli 2026 og trådte i kraft 27. juli 2026 [3] [4]. Den flytter anvendelsesdatoen for frittstående høyrisikosystemer i vedlegg III fra 2. august 2026 til 2. desember 2027, og for KI innebygd i produkter som omfattes av sektorvis sikkerhetslovgivning (vedlegg I) til 2. august 2028 [2] [3]. Kommisjonens side med tidsplanen viser de samme datoene [5]. Andre plikter følger den opprinnelige tidsplanen, blant dem pliktene for leverandører av KI-modeller til allmenne formål, de forbudte praksisene som har gjeldt siden 2. februar 2025, og åpenhetspliktene i artikkel 50. Systemer som er brakt i omsetning før 2. august 2026, har frist til 2. desember 2026 for å oppfylle plikten til maskinlesbar merking av syntetiske medier [3] [4].

For dem som tar i bruk systemene, peker kildene på plikter som ligger utenfor modelleverandørens dokumentasjon. Leverandører må opplyse om at en person samhandler med et KI-system og merke KI-generert innhold; brukere må opplyse om deepfakes, følelsesgjenkjenning og biometrisk kategorisering, og pliktene omfatter virksomheter som driver merkevarebaserte chatboter og generative KI-verktøy [2]. Omnibusen mildnet den generelle plikten til KI-kompetanse til et krav om tiltak i stedet for et bestemt kompetanseresultat, mens brukere av høyrisikosystemer beholder kompetansekravet i artikkel 26 nr. 2 [3].

Leverandørenes sikkerhetsdokumentasjon fordeler arbeidet på lignende vis. Microsofts modell for generativ KI beskriver tre lag: KI-plattformen, KI-applikasjonen og KI-bruken. Den sier at ansvaret som regel ligger hos den parten som utfører oppgaven, og at fordelingen endres mellom programvare som tjeneste, plattform som tjeneste og infrastruktur som tjeneste [6]. Den egne modellen for autonome agenter legger til orkestrering, verktøy og handlinger samt minne. Der beholder kunden ansvaret for data, identiteter, menneskelig godkjenning av handlinger med stor virkning og ansvaret for akseptabel bruk i alle typer utrulling, og, for en agent bygd på en administrert plattform, for instruksjonene, valget av verktøy og tillatelsene per verktøy [7]. Microsoft kaller veiledningen illustrerende og ikke en juridisk konklusjon [6]. Et blogginnlegg fra Cloud Security Alliance fra 2023 hadde foreslått den samme formen for generativ KI, med en leverandør av KI-tjenesten og en bruker av KI-tjenesten, der brukeren beholder dataopphav, applikasjonssikkerhet og kontroll over prompter [8].

Hva dette betyr for virksomheter

Håndheving overfor modelleverandører flytter ikke virksomhetens egne plikter over på leverandøren. Leverandørens dokumentasjon og informasjonen til utviklere lenger ned i verdikjeden er grunnlag for virksomhetens egen vurdering av prompter, data, verktøytillatelser og håndtering av utdata. Kildene som er gjennomgått, avklarer ikke når en virksomhet som finjusterer eller vesentlig endrer en modell, selv blir leverandør; Kommisjonens retningslinjer er stedet å undersøke det spørsmålet i et konkret tilfelle.

Anbefalinger

  1. Før opp hver LLM og agent som er i bruk, leverandøren og typen utrulling (programvare, plattform eller egen drift), siden fordelingen av plikter avhenger av det.
  2. Registrer hvilke plikter leverandørens dokumentasjon legger på kunden, og behandle leverandørdokumenter som veiledning, ikke som kontrakt eller juridisk rådgivning.
  3. Sjekk om åpenhetspliktene i artikkel 50 gjelder chatboter eller generert innhold som virksomheten publiserer.
  4. For agenter: gå gjennom verktøytillatelser, trinn for menneskelig godkjenning og logging, som Microsofts modell legger hos kunden.
  5. Les kurset i FireAI University om rammeverk for KI-sikkerhet og red teaming og blogginnlegget om delt ansvar for LLM-er.

Relevans for FireAI

FireAI er en nettverksbrannmur for én Mac, ikke et produkt for regeletterlevelse. Den vurderer ikke plikter etter KI-forordningen, klassifiserer ikke KI-systemer og gir ingen godkjenning av noe slag. Det den kan vise, er nettverkssiden av et LLM-verktøy på en Mac. Med regler per app kan en KI-app eller kodeassistent begrenses til destinasjonene den trenger, forespørselen ved første tilkobling spør før en ny app når en ukjent destinasjon, verdenskartet viser hvor en apps trafikk går, og varslene om opplastinger flagger en plutselig stor opplasting til ett land. Nødbryteren stopper nye tilkoblinger. FireAI leser ikke prompter eller modellutdata og ser ikke hva en agent gjør inne i en applikasjon.

Begrensninger

Kommisjonens FAQ og tidsplan ble lest uten synlig publiseringsdato, og Kommisjonens side oppgir ikke bøtenes størrelse. Sammendragene fra advokatfirmaet og forskningsnotatet er enige om datoene i omnibusen, men selve teksten i EU-tidende ble ikke åpnet for denne saken. Microsofts sider er leverandørveiledning for selskapets egne tjenester, og innlegget fra Cloud Security Alliance er et forslag fra 2023, så ingen av dem har rettslig virkning. Ingen av kildene som er lest her, sier hvordan nasjonale myndigheter eller KI-kontoret vil bruke myndigheten sin i praksis.

Prøv FireAI, av HisnLabs gratis i 17 dager.

Kilder

  1. European Commission, Digital Strategy: Guidelines on the obligations of providers of general-purpose AI models (FAQ)
  2. Data Protection Report (Rosie Nance and Marcus Evans), 24 July 2026: The EU AI Act: when does it become enforceable now?
  3. Lewis Silkin, 27 July 2026: The Digital Omnibus on AI enters into force today
  4. Cloud Security Alliance Labs, 1 August 2026: EU AI Act high-risk deadline, deferred, not cancelled (research note)
  5. European Commission, AI Act Service Desk: Timeline for the implementation of the EU AI Act
  6. Microsoft Learn (page dated 24 August 2026): Artificial intelligence shared responsibility model
  7. Microsoft Learn (page dated 26 August 2026): AI agent shared responsibility model
  8. Cloud Security Alliance (Vishwas Manral), 28 July 2023: Generative AI, a proposed shared responsibility model