Kaliforniens Gouverneur Gavin Newsom unterzeichnete am 30. September 2026 den Senate Bill 574, den Bloomberg Law als landesweit erstes Gesetz zur Regulierung des Einsatzes generativer KI durch Anwälte beschreibt [1]. Das Gesetz tritt am 1. Januar 2027 in Kraft und legt Pflichten zu Vertraulichkeit, Prüfung von KI-Ergebnissen, Offenlegung gegenüber Gerichten und Zitaten fest [2]. Seine Vertraulichkeitsregel macht die Frage, wohin die Informationen eines Mandanten gelangen, wenn ein KI-Werkzeug sie verarbeitet, zu einer berufsrechtlichen Pflicht.
Hintergrund
Gerichte in den Vereinigten Staaten hatten es mit Schriftsätzen zu tun, die von KI-Werkzeugen erfundene oder falsch gelesene Zitate enthielten; Bloomberg Law vermerkt, dass Bundesgerichte in den zwei Monaten vor der Unterzeichnung Anwälte in Diskriminierungs-, Insolvenz- und Justizministeriumsverfahren verwarnten oder sanktionierten [1]. Anwälte sind zudem gegenüber ihren Mandanten zur Verschwiegenheit verpflichtet. Ein allgemeiner KI-Dienst verarbeitet, was er erhält, auf den Servern seines Anbieters und nach dessen Bedingungen; deshalb wird der Umgang des Werkzeugs mit Daten zu einer Frage für den Anwalt.
Was das Gesetz vorsieht
Der neue Business and Professions Code Section 6068.1 sieht vor, dass ein Anwalt die Ausübung der Rechtsberatung nicht an generative KI „delegieren darf“ [2]. Nach demselben Abschnitt darf ein Anwalt laut Holland & Knight keine vertraulichen, nicht öffentlichen oder personenbezogenen Informationen in ein generatives KI-System eingeben, es sei denn, der Zugriff ist auf den Anwalt und befugte Personen beschränkt, die selbst Vertraulichkeitspflichten unterliegen. Der von Bloomberg Law zitierte Text erlaubt Werkzeuge, die „auf den Anwalt und die von ihm bevollmächtigten Personen beschränkt sind, die zum Schutz der Vertraulichkeit verpflichtet sind“ [1] [2].
Anwälte müssen angemessene Schritte unternehmen, um KI-Ergebnisse zu prüfen, einschließlich der Zitate von Rechtsprechung und Gesetzen. Eine Änderung von Code of Civil Procedure Section 128.7 untersagt, dass Schriftsätze bei einem kalifornischen Gericht ein Zitat enthalten, das der verantwortliche Anwalt nicht persönlich überprüft hat. Anwälte, die generative KI einsetzen, müssen dies dem Gericht „für alle beim Gericht eingereichten Dokumente“ offenlegen [2]. Schiedsrichter dürfen ihre Entscheidungsfindung nicht an KI-Werkzeuge delegieren oder sich auf KI-generierte Informationen stützen, ohne sie den Parteien offenzulegen [1].
Holland & Knight schreibt, die Vertraulichkeitsbestimmung mache die Datenverarbeitungspraktiken eines KI-Systems für die berufsrechtliche Compliance relevant und „könne bestimmte öffentlich verfügbare KI-Werkzeuge für Verbraucher ausschließen“. Die Kanzlei empfiehlt Anwälten, vor dem 1. Januar 2027 die Parameter und Sicherheitsfunktionen ihrer KI-Systeme zu prüfen, zulässige Eingaben festzulegen, Prüf- und Zitatverifikationsabläufe einzurichten und zu entscheiden, wie Offenlegungen gegenüber Gerichten erfolgen [2].
Folgen für Anwaltskanzleien
Das Gesetz gilt für in Kalifornien tätige Anwälte. Für sie wird die Wahl des KI-Werkzeugs Teil der Vertraulichkeitsprüfung: Bevor Mandantenmaterial eingegeben wird, braucht der Anwalt eine Grundlage für den Schluss, dass der Zugriff darauf so beschränkt ist, wie es das Gesetz verlangt. Holland & Knight verweist auf offene Fragen, etwa was als Delegation der Rechtsberatung gilt und wie viel KI-Beteiligung die Offenlegungspflicht gegenüber dem Gericht auslöst. Anwälte anderswo sind an SB 574 nicht gebunden, stehen aber nach ihren eigenen Berufsregeln vor derselben praktischen Frage: wer außer dem Anwalt auf das zugreifen kann, was in das Werkzeug getippt wird.
Empfehlungen
- Erfassen Sie die in der Kanzlei genutzten KI-Werkzeuge und halten Sie für jedes fest, wo Dokumente und Prompts verarbeitet werden und wer darauf zugreifen kann.
- Legen Sie fest, welche Kategorien von Mandanteninformationen in welches Werkzeug eingegeben werden dürfen, wie Holland & Knight vorschlägt.
- Prüfen Sie jedes Zitat vor der Einreichung persönlich, gleich aus welcher Quelle.
- Bereiten Sie vor dem 1. Januar 2027 eine Offenlegungspraxis für Schriftsätze vor, die mit generativer KI erstellt wurden.
- Holen Sie bei Rechtsberatern oder der Anwaltskammer Hinweise zu den Bestimmungen ein, die das Gesetz undefiniert lässt.
Bezug zu PrivateAI
PrivateAI 1.0.0 führt sein KI-Modell Gemma 4 E2B auf dem Mac aus, ohne Cloud-Rückfall und ohne Telemetrie, und seine Protokolle enthalten nie Dokumenttext. Es geht nur online, um das Modell einmalig herunterzuladen, für Lizenz- und Update-Prüfungen und um eine Zahlungsseite zu öffnen; keiner dieser Vorgänge sendet ein Dokument, einen Prompt oder ein Ergebnis. Es prüft jeden Betrag, jedes Datum und jede Referenz in einem Ergebnis nach festen Regeln gegen das Original und kennzeichnet jedes Ergebnis als Entwurf, den der Berufsträger prüfen muss. HisnLabs behauptet nicht, dass die Nutzung von PrivateAI SB 574 oder eine andere Regel erfüllt: Ob ein Werkzeug die Zugriffsbeschränkung des Gesetzes erfüllt, hat der Anwalt zu beurteilen. Der Kauf von PrivateAI ist noch nicht geöffnet.
Einschränkungen
Dieser Beitrag stützt sich auf den Bericht von Bloomberg Law und die Mandanteninformation von Holland & Knight, nicht auf den verabschiedeten Gesetzestext, der hier nicht geprüft wurde [1] [2]. Holland & Knight erkennt ein mögliches Redaktionsproblem in der Änderung von Section 128.7 sowie undefinierte Begriffe wie „delegieren“, die Gerichte oder der Gesetzgeber klären könnten [2]. Wie die Vertraulichkeitsregel auf bestimmte Produkte anzuwenden ist, hängt von einer Auslegung ab, die es noch nicht gibt.
Um Mandantendokumente mit einem KI-Modell zu bearbeiten, das auf dem Mac läuft, laden Sie PrivateAI herunter und testen Sie alle Funktionen 17 Tage kostenlos. PrivateAI wird von HisnLabs entwickelt.