Seit dem 2. August 2026 kann die Europäische Kommission die KI-Verordnung der EU (AI Act) gegenüber Anbietern von KI-Modellen mit allgemeinem Verwendungszweck durchsetzen, und Geldbußen werden möglich, so die Leitlinien der Kommission und ihr Umsetzungszeitplan [1] [5]. Wenige Tage zuvor, am 27. Juli, war der Digital Omnibus zur KI, eine Änderungsverordnung, in Kraft getreten und hatte die Hochrisiko-Fristen auf Dezember 2027 und August 2028 verschoben [3]. Für eine Organisation, die ein großes Sprachmodell (LLM) eines Anbieters einsetzt, sind die Pflichten des Modellanbieters und die eigenen Pflichten als Betreiber zweierlei.
Hintergrund
Die Regeln der KI-Verordnung für KI-Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025. Die Leitlinien der Kommission nennen die Pflichten eines Modellanbieters: technische Dokumentation für Behörden und das KI-Büro, Informationen für nachgelagerte Entwickler über Fähigkeiten und Grenzen des Modells, eine Urheberrechtsstrategie, eine öffentliche Zusammenfassung der Trainingsinhalte und einen EU-Bevollmächtigten für Anbieter mit Sitz außerhalb der Union [1]. Die Leitlinien behandeln ein Modell als Modell mit allgemeinem Verwendungszweck, wenn es mit mehr als 10^23 Gleitkommaoperationen trainiert wurde und Sprache, Text-zu-Bild- oder Text-zu-Video-Ausgaben erzeugen kann, und bezeichnen dies als indikativen Schwellenwert. Bei Modellen, die mit mehr als 10^25 Operationen trainiert wurden, wird ein systemisches Risiko vermutet [1].
Was die Quellen beschreiben
Die FAQ der Kommission nennt drei Daten: den 2. August 2025, an dem die Pflichten mit einer anfänglichen Übergangsphase für Unterzeichner des Verhaltenskodex beginnen; den 2. August 2026, an dem die volle Durchsetzung mit möglichen Geldbußen einsetzt; und den 2. August 2027, bis zu dem Modelle, die schon vor Geltung der Regeln auf dem Markt waren, die Vorgaben erfüllen müssen [1]. Der Zeitplan des AI Act Service Desk der Kommission gibt an, dass die Durchsetzung für KI-Modelle mit allgemeinem Verwendungszweck und für Transparenzpflichten am 2. August 2026 beginnt [5]. Eine am 24. Juli 2026 veröffentlichte Analyse einer Anwaltskanzlei beschreibt die frühere Regelung als einjährige Schonfrist für Unterzeichner des General-Purpose AI Code of Practice, die am 2. August 2026 endete [2].
Beim Digital Omnibus geht es um eine verabschiedete Regelung, nicht um einen Vorschlag. Eine Kanzleianalyse und eine Forschungsnotiz der Cloud Security Alliance berichten, dass die Verordnung (EU) 2026/1744 am 24. Juli 2026 im Amtsblatt veröffentlicht wurde und am 27. Juli 2026 in Kraft trat [3] [4]. Sie verschiebt den Geltungsbeginn für eigenständige Hochrisikosysteme nach Anhang III vom 2. August 2026 auf den 2. Dezember 2027 und für KI in Produkten, die unter sektorale Sicherheitsvorschriften fallen (Anhang I), auf den 2. August 2028 [2] [3]. Die Zeitplanseite der Kommission zeigt dieselben Daten [5]. Andere Pflichten bleiben bei ihrem ursprünglichen Zeitplan, darunter die Pflichten der Anbieter von KI mit allgemeinem Verwendungszweck, die seit dem 2. Februar 2025 geltenden verbotenen Praktiken und die Transparenzpflichten nach Artikel 50. Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, haben bis zum 2. Dezember 2026 Zeit, die Pflicht zur maschinenlesbaren Kennzeichnung synthetischer Medien zu erfüllen [3] [4].
Für Betreiber verweisen die Quellen auf Pflichten außerhalb der Dokumentation des Modellanbieters. Anbieter müssen offenlegen, dass eine Person mit einem KI-System interagiert, und KI-generierte Inhalte kennzeichnen; Betreiber müssen Deepfakes, Emotionserkennung und biometrische Kategorisierung offenlegen, und die Pflichten erfassen Organisationen, die eigene Chatbots und generative KI-Werkzeuge unter ihrer Marke betreiben [2]. Der Omnibus schwächte die allgemeine Pflicht zur KI-Kompetenz zu einer Pflicht ab, Maßnahmen zu ergreifen, statt ein bestimmtes Kompetenzergebnis zu verlangen, während Betreiber von Hochrisikosystemen die Kompetenzanforderung nach Artikel 26 Absatz 2 behalten [3].
Die Sicherheitsdokumentation der Anbieter teilt die Arbeit ähnlich auf. Microsofts Modell für generative KI beschreibt drei Ebenen: die KI-Plattform, die KI-Anwendung und die KI-Nutzung. Danach liegt die Verantwortung in der Regel bei der Partei, die die jeweilige Aufgabe ausführt, und die Aufteilung ändert sich zwischen Software-as-a-Service-, Platform-as-a-Service- und Infrastructure-as-a-Service-Bereitstellungen [6]. Sein separates Modell für autonome Agenten ergänzt Orchestrierung, Werkzeuge und Aktionen sowie Gedächtnis. Darin behält der Kunde in jeder Bereitstellungsart die Verantwortung für Daten, Identitäten, die menschliche Freigabe folgenreicher Aktionen und die Verantwortung für zulässige Nutzung, und bei einem auf einer verwalteten Plattform gebauten Agenten auch für dessen Anweisungen, Werkzeugauswahl und Berechtigungen je Werkzeug [7]. Microsoft bezeichnet seine Hinweise als veranschaulichend und nicht als rechtliche Schlussfolgerung [6]. Ein Blogbeitrag der Cloud Security Alliance aus dem Jahr 2023 hatte für generative KI bereits dieselbe Struktur vorgeschlagen, mit einem KI-Dienstanbieter und einem KI-Dienstnutzer, bei dem Datenherkunft, Anwendungssicherheit und Prompt-Kontrollen verbleiben [8].
Folgen für Organisationen
Die Durchsetzung gegenüber Modellanbietern überträgt die Pflichten der einsetzenden Organisation nicht auf den Anbieter. Die Dokumentation des Anbieters und die Informationen für nachgelagerte Entwickler fließen in die eigene Bewertung des Betreibers zu Prompts, Daten, Werkzeugberechtigungen und dem Umgang mit Ausgaben ein. Die ausgewerteten Quellen klären nicht, ab wann ein Betreiber, der ein Modell feinabstimmt oder wesentlich verändert, selbst zum Anbieter wird; für den Einzelfall sind die Leitlinien der Kommission die maßgebliche Anlaufstelle.
Empfehlungen
- Jedes eingesetzte LLM und jeden Agenten mit Anbieter und Bereitstellungsart (Software, Plattform oder selbst gehostet) erfassen, da die Aufteilung der Pflichten davon abhängt.
- Festhalten, welche Pflichten die Dokumentation des Anbieters dem Kunden zuweist, und Anbieterdokumente als Orientierung behandeln, nicht als Vertrag oder Rechtsberatung.
- Prüfen, ob die Transparenzpflichten nach Artikel 50 für Chatbots oder generierte Inhalte gelten, die die Organisation veröffentlicht.
- Bei Agenten Werkzeugberechtigungen, menschliche Freigabeschritte und Protokollierung prüfen, die das Microsoft-Modell beim Kunden belässt.
- Den Kurs der FireAI University zu KI-Sicherheitsrahmenwerken und Red Teaming und den Blogbeitrag zur geteilten Verantwortung für LLMs lesen.
Bezug zu FireAI
FireAI ist eine Netzwerk-Firewall für einen einzelnen Mac, kein Compliance-Produkt. Es bewertet keine Pflichten aus der KI-Verordnung, klassifiziert keine KI-Systeme und stellt keine Zertifizierungen aus. Es kann die Netzwerkseite eines LLM-Werkzeugs auf einem Mac zeigen. Mit Regeln pro App lässt sich eine KI-App oder ein Coding-Assistent auf die Ziele beschränken, die er braucht, die Abfrage bei der ersten Verbindung fragt nach, bevor eine neue App ein unbekanntes Ziel erreicht, die Weltkarte zeigt, wohin der Datenverkehr einer App geht, und die Upload-Warnungen melden einen plötzlichen großen Upload in ein Land. Der Notfallschalter stoppt neue Verbindungen. FireAI liest weder Prompts noch Modellausgaben und sieht nicht, was ein Agent innerhalb einer Anwendung tut.
Einschränkungen
Die FAQ- und Zeitplanseiten der Kommission wurden ohne sichtbares Veröffentlichungsdatum gelesen, und die Seite der Kommission nennt keine Bußgeldbeträge. Die Zusammenfassungen der Kanzlei und der Forschungsnotiz stimmen bei den Omnibus-Daten überein, der Text im Amtsblatt selbst wurde für diesen Beitrag jedoch nicht geöffnet. Die Seiten von Microsoft sind Herstellerhinweise für die eigenen Dienste, und der Beitrag der Cloud Security Alliance ist ein Vorschlag von 2023; keines von beiden hat Rechtskraft. Keine der hier gelesenen Quellen sagt, wie nationale Behörden oder das KI-Büro ihre Befugnisse in der Praxis nutzen werden.
FireAI von HisnLabs 17 Tage kostenlos testen.