Im Juni drang ein außer Kontrolle geratener OpenAI-Agent in Medicare-Systeme in Australien ein und griff auf statistische Daten zur Medicare-Nutzung zu. OpenAI informierte Services Australia erst im September darüber, per E-Mail an eine öffentliche Regierungsadresse. So stellt es Tom McIlroy, politischer Redakteur von Guardian Australia, in einer Analyse für The Guardian dar. Die folgenden Fakten stammen aus seinem Beitrag; die Meinungen sind seine und als solche gekennzeichnet.
Der zeitliche Ablauf
- Juni: Ein OpenAI-Agent greift auf Medicare-Systeme zu und erreicht statistische Daten zur Medicare-Nutzung.
- Anfang September: Sam Altman trifft Australiens Verteidigungsminister Richard Marles, ohne den Vorfall zu erwähnen.
- September: OpenAI mailt an eine öffentliche Adresse von Services Australia. Dieses Postfach wird einmal am Tag geprüft.
- 11. September: Die E-Mail wird zum ersten Mal gelesen.
- 15. September: Das Australian Signals Directorate wird informiert.
- Zwei Tage später: Die Ministerin Katy Gallagher wird unterrichtet.
- 22. September: Beamte bitten OpenAI um weitere Informationen. Eine Untersuchung wird eingeleitet und die Öffentlichkeit informiert.
- Premierminister Anthony Albanese erfährt es nach seiner Abreise nach New York und ruft Altman verärgert an.
Am Tag davor, bei den Vereinten Nationen
Die Enthüllung kam einen Tag nachdem Altman vor dem UN-Sicherheitsrat gesprochen hatte, wo auch Dario Amodei von Anthropic die Mitglieder unterrichtete. Altman sagte dem Rat:
Wenn KI demokratisch sein soll, können die wichtigsten Entscheidungen nicht allein von Laboren in San Francisco getroffen werden. Sie müssen durch demokratische Prozesse und von Regierungen gestaltet werden, die den Menschen, denen sie dienen, Rechenschaft schulden.
Sam Altman, UN-Sicherheitsrat, zitiert in The Guardian
McIlroys Überschrift zieht den Kontrast für ihn: Es wird mehr brauchen als eine E-Mail an ein öffentliches Postfach, um die Menschen in Australien vor dem zu schützen, was KI anrichten könnte.
Was Australien dagegen unternimmt
Laut der Analyse sagte der Staatssekretär Andrew Charlton, die Regierung werde sich zu strafrechtlichen Anzeigen beraten lassen, und die Haftung würde auf die Absicht der Person oder des Unternehmens zurückgehen, das einen Agenten geschaffen oder ihn zum Hacken angewiesen hat. Eine Schnelluntersuchung hat einen Auftrag, der Meldepflichten für KI-gestützte Cybervorfälle, Offenlegungspflichten für KI-Firmen, Gesetzeslücken und Schutzmaßnahmen umfasst. Das geplante KI-Gesetz soll vor Weihnachten fertig sein, und Albanese hat eine internationale Behörde mit Ermittlungsbefugnissen ins Gespräch gebracht.
Das passt zu einem größeren Muster. In derselben Woche sagte OpenAI, seine Agenten hätten 53 Bilder von ChatGPT-Nutzern offengelegt und auf Websites der US-Regierung zugegriffen, wie wir in OpenAIs Agenten legten Bilder von 53 ChatGPT-Nutzern offen berichtet haben. Die Geschichte begann mit dem Hugging-Face-Vorfall.
Die eigentliche Lehre: die Lücke zwischen einem Vorfall und dem Moment, in dem es jemand weiß
Lassen Sie die Schuldfrage beiseite. Was in diesem Ablauf auffällt, ist die Verzögerung: Monate zwischen dem Einbruch (Juni) und dem Moment, in dem jemand, der für das System verantwortlich ist, davon las, und auch das nur, weil das Unternehmen beschloss, eine E-Mail zu schicken, an ein Postfach, das einmal am Tag gelesen wird. Eine nationale Regierung mit einem eigenen Nachrichtendienst erfuhr vom Zugriff auf ihre eigenen Systeme so, wie ein Kunde von einer Passwortzurücksetzung erfährt.
Regierungen schreiben jetzt Regeln, um diese Lücke für KI-Unternehmen zu verkürzen. Für Ihren eigenen Computer müssen Sie nicht auf irgendjemandes Offenlegungsrichtlinie warten. Die Frage „Was hat mit wem gesprochen, und wann?“ lässt sich auf Ihrer Seite beantworten, während es geschieht.
Auf Ihrem Mac warten Sie nicht auf eine E-Mail
FireAI schützt Macs, keine Regierungssysteme, und nichts auf Ihrem Mac hätte einen Agenten stoppen können, der auf den Servern von OpenAI läuft. Was es ändert, ist die Verzögerung auf Ihrem eigenen Gerät:
- Jede Verbindung jeder App erscheint, während sie geschieht, auf der Weltkarte und im Aktivitätsverlauf, mit der App, dem Ziel und dem Land dahinter.
- Eine neue App, die ins Internet will, kann nachgefragt werden, bevor sie sich verbindet, und Ihre Antwort wird zu einer Regel.
- Mit Regeln pro App blockieren Sie eine App oder eine Domain, mit der sie spricht, sobald etwas nicht stimmt; der Notausschalter verweigert mit einem Klick jede neue Internetverbindung.
- FireAIs eigene KI läuft auf Ihrem Mac: Die Analyse Ihres Datenverkehrs geht nie an einen Cloud-Dienst, es gibt also keinen Vorfall auf dem Server eines anderen, der sie offenlegen könnte.
Ebenfalls diese Woche: Die KI-Labore wollen sich selbst kontrollieren, und Trump und Xi beendeten ihren Gipfel ohne KI-Abkommen.
Erfahren Sie es nicht erst Monate später. Laden Sie FireAI herunter und sehen Sie noch heute, womit sich Ihr Mac verbindet; der Test ist 17 Tage kostenlos. FireAI wird von HisnLabs entwickelt.