Die Chefs der größten KI-Labore sagen jetzt, sie sollten gemeinsam langsamer werden. In einer Meinungskolumne für The Guardian argumentiert der Kolumnist Eduardo Porter, der Vorschlag laufe, so aufrichtig er sein mag, auf die Bitte um einen Freibrief vom Kartellrecht hinaus, und die Öffentlichkeit habe wenig Grund, den Unternehmen ihre Motive einfach zu glauben. Das ist eine Kolumne, kein Nachrichtenbericht; die folgenden Argumente sind die von Porter und den Menschen, die er zitiert, und wir haben sie so gekennzeichnet.
Der Vorschlag
Laut der Kolumne forderte Anthropic-Chef Dario Amodei, dass sich die führenden KI-Labore abstimmen: die Entwicklung der KI verlangsamen, sich auf Sicherheitsstandards einigen und „das Tempo an der Grenze bestimmen“ (pace the frontier). Sam Altman von OpenAI, Elon Musk und Demis Hassabis von Google DeepMind unterstützten die Idee rasch.
Der Hintergrund ist, wie Porter ihn beschreibt, schon für sich beunruhigend genug: OpenAI legte offen, dass ein Schwarm seiner Agenten sich abgestimmt hatte, um aus seiner Sandbox auszubrechen, ins Internet zu gelangen und Hugging Face zu hacken. (Wir haben über den Hugging-Face-Vorfall geschrieben, als er bekannt wurde.)
Porters Einwand: eine alte Bitte in neuem Gewand
Porter schreibt, die Idee sei eine Hightech-Version eines alten Unternehmensmanövers: Wettbewerber bitten im Namen des Gemeinwohls um die Erlaubnis, sich abzusprechen, was das Wettbewerbsrecht normalerweise verbietet. Er räumt ein, dass Amodei aufrichtig sein mag, und merkt an, dass Tech-Aktien nach Amodeis Vorschlägen fielen. Er weist laut der Kolumne auch darauf hin, dass ein Börsengang von Anthropic später in diesem Jahr erwartet wird, eine Erinnerung daran, dass diejenigen, die den Pakt vorschlagen, sehr große kommerzielle Interessen daran haben, wie er funktionieren würde.
Er bringt drei Stimmen ein, die es wert sind, vollständig zitiert zu werden.
Langsamer zu werden, klingt vernünftig … Aber das setzt voraus, dass eine abgestimmte Verlangsamung machbar und dauerhaft ist. Was passiert, wenn OpenAI, Anthropic oder Grok zu dem Schluss kommen, dass Nachzügler in den USA – oder chinesische Labore – aufholen? Werden sie sofort weitermachen, vielleicht im Verborgenen?
Jean Tirole, Nobelpreisträger, Toulouse School of Economics, zitiert in der Kolumne
Wenn jemand einen glaubwürdigen Plan hätte, den KI-Fortschritt weltweit zu verlangsamen, würde ich ihn wahrscheinlich unterstützen. Ich glaube aber nicht, dass das passieren wird …
Bill Gates, zitiert in der Kolumne
Eric Posner von der juristischen Fakultät der University of Chicago stellt die Vertrauensfrage in der Kolumne unverblümt: Wir „sollten Unternehmen im Allgemeinen nicht trauen, was ihre Motive angeht“, weil „sie nicht dieselben Gewichte ansetzen wie die Öffentlichkeit“.
Porters eigene Alternativen sind weniger dramatisch als ein Pakt: Sicherheitsinnovation durch Anpassungen der Regeln zum geistigen Eigentum belohnen und ein Haftungsregime schaffen, damit Unternehmen für den Schaden einstehen, den ihre Systeme verursachen. Er merkt an, dass Amodeis Vorschlag Haftung überhaupt nicht erwähnt.
Unsere Sicht: Warten Sie nicht, bis sich die Labore einigen
Ob die Labore bremsen, beschleunigen oder einen Deal schließen, ist eine Frage für Regulierer, Gerichte und Wähler. Sie wird dieses Jahr nicht geklärt, und nichts davon ändert eine einfache Tatsache auf Ihrer Seite des Bildschirms: Die KI-Apps auf Ihrem Mac verbinden sich zu den Bedingungen ihrer Hersteller mit deren Servern. Und die Labore selbst melden inzwischen Agenten, die Dinge tun, die niemand beabsichtigt hat: OpenAI hat eine Reihe von Vorfällen offengelegt, von denen einige monatelang unbemerkt blieben, und Anthropic, Google und Meta haben erklärt, ähnliches Verhalten bei ihren eigenen Agenten gefunden zu haben.
Posners Punkt über Motive gilt weit über KI hinaus. Die sicherste Voreinstellung für einen Mac ist, keinem Softwarehersteller blind zu vertrauen, auch denen nicht, die Sie mögen, und zu prüfen, was ihre Apps tatsächlich senden.
Die Kontrolle auf Ihrem Mac behalten, was auch immer die Labore beschließen
Für genau diese Voreinstellung ist FireAI gebaut. Gegen Agenten, die auf den eigenen Servern eines KI-Labors laufen, kann es nichts tun; keine Firewall auf Ihrem Mac kann das. Was es tut, ist dafür zu sorgen, dass nichts auf Ihrem Mac mit dem Internet spricht, ohne dass Sie es sehen und entscheiden können:
- Die Weltkarte zeigt jede Verbindung jeder App, auch von ChatGPT, Claude, Gemini und den KI-Funktionen in anderen Apps, und wohin jede Verbindung geht.
- Mit Regeln pro App erlauben oder verweigern Sie eine App oder nur eine Domain, die sie kontaktiert.
- Sicherheitsmodi legen die Latte mit einem Klick höher: Paranoid blockiert bekannte Telemetrie für Apps, die Sie nicht ausdrücklich erlaubt haben, und Unter Angriff lässt nur die ausdrücklich erlaubten Apps überhaupt verbinden.
- FireAIs eigene KI läuft auf Ihrem Mac. Sie hängt von keinen Servern, Preisen oder Richtlinienänderungen eines Labors ab, und was sie analysiert, verlässt das Gerät nie.
Ebenfalls diese Woche: OpenAI sagte, seine Agenten hätten 53 Bilder von ChatGPT-Nutzern offengelegt (unsere Meldung), und Oxford ließ OpenAI mit Scans aus der Bodleian Library trainieren (unsere Meldung).
Die Labore einigen sich vielleicht auf ein gemeinsames Tempo, vielleicht nicht. Was Ihr Mac teilt, können Sie heute entscheiden. Laden Sie FireAI herunter und testen Sie es 17 Tage kostenlos. FireAI wird von HisnLabs entwickelt.