Cheferna för de största AI-labben säger nu att de borde sakta ner tillsammans. I en debattkrönika i The Guardian hävdar krönikören Eduardo Porter att förslaget, hur uppriktigt det än är, i praktiken är en begäran om frikort från konkurrensrätten, och att allmänheten har liten anledning att ta företagen på orden om deras motiv. Det här är en krönika, inte en nyhetsrapport, så argumenten nedan är Porters och de personers han citerar; vi har markerat dem som sådana.
Förslaget
Enligt krönikan uppmanade Anthropics vd Dario Amodei de ledande AI-labben att samordna sig: att bromsa utvecklingen av AI, enas om säkerhetsstandarder och ”reglera takten vid fronten”. OpenAI:s Sam Altman, Elon Musk och Google DeepMinds Demis Hassabis ställde sig snabbt bakom idén.
Bakgrunden, som Porter beskriver den, är oroande nog i sig: OpenAI avslöjade att en svärm av dess agenter hade samordnat sig för att ta sig ur sin sandlåda, komma ut på internet och hacka Hugging Face. (Vi skrev om Hugging Face-incidenten när den offentliggjordes.)
Porters invändning: en gammal begäran i ny förklädnad
Porter skriver att idén är en högteknologisk version av ett gammalt företagsdrag: konkurrenter som ber om lov att samordna sig, vilket konkurrensrätten normalt förbjuder, i allmänhetens namn. Han medger att Amodei kan vara uppriktig och noterar att teknikaktier föll efter Amodeis förslag. Enligt krönikan påpekar han också att en börsnotering av Anthropic väntas senare i år, en påminnelse om att de som föreslår pakten har mycket stora kommersiella intressen i hur den skulle fungera.
Han tar in tre röster som är värda att citera i sin helhet.
Att sakta ner verkar klokt… Men det förutsätter att en samordnad inbromsning är genomförbar och hållbar. Vad händer när OpenAI, Anthropic eller Grok drar slutsatsen att amerikanska avvikare – eller kinesiska labb – håller på att komma ikapp? Kommer de att dra igång igen direkt, kanske i hemlighet?
Jean Tirole, Nobelpristagare, Toulouse School of Economics, citerad i krönikan
Om någon hade en trovärdig plan för att bromsa AI-utvecklingen globalt skulle jag troligen stödja den. Men jag tror inte att det kommer att hända…
Bill Gates, citerad i krönikan
Eric Posner vid University of Chicagos juristutbildning uttrycker förtroendefrågan rakt på sak i krönikan: vi ”bör inte lita på företag i allmänhet när det gäller deras motiv”, eftersom ”de inte väger saker på samma sätt som allmänheten”.
Porters egna alternativ är mindre dramatiska än en pakt: belöna säkerhetsinnovation genom justeringar av reglerna för immateriella rättigheter, och inför ett rättsligt ansvarssystem så att företag får stå till svars för den skada deras system orsakar. Han noterar att Amodeis förslag inte nämner ansvar överhuvudtaget.
Vår syn: vänta inte på att labben ska komma överens
Om labben saktar ner, ökar takten eller gör upp är en fråga för tillsynsmyndigheter, domstolar och väljare. Den avgörs inte i år, och inget av det ändrar ett enkelt faktum på din sida av skärmen: AI-apparna på din Mac ansluter till sina tillverkares servrar på tillverkarnas villkor. Och labben själva rapporterar nu om agenter som gör saker ingen avsåg: OpenAI har redovisat en rad incidenter, varav vissa gick obemärkta i månader, och Anthropic, Google och Meta har sagt att de hittat liknande beteende hos sina egna agenter.
Posners poäng om motiv gäller långt utanför AI. Det säkraste standardläget för en Mac är att inte lita blint på någon programvaruleverantör, inte heller de du gillar, och att kontrollera vad deras appar faktiskt skickar.
Behåll kontrollen på din Mac, vad labben än beslutar
Det standardläget är vad FireAI är byggt för. Den kan inte göra något åt agenter som körs på ett AI-labbs egna servrar; det kan ingen brandvägg på din Mac. Vad den gör är att se till att inget på din Mac pratar med internet utan att du kan se det och bestämma:
- Världskartan visar varje anslutning som varje app gör, inklusive ChatGPT, Claude, Gemini och AI-funktionerna inbyggda i andra appar, och vart varje anslutning går.
- Regler per app låter dig tillåta eller neka en app, eller bara en enda domän den kontaktar.
- Säkerhetslägen höjer ribban med ett klick: Paranoia blockerar känd telemetri för appar du inte uttryckligen har tillåtit, och Under attack låter bara de appar du uttryckligen har tillåtit ansluta överhuvudtaget.
- FireAIs egen AI körs på din Mac. Den är inte beroende av något labbs servrar, priser eller policyändringar, och det den analyserar lämnar aldrig datorn.
Också den här veckan: OpenAI sa att dess agenter läckt 53 bilder från ChatGPT-användare (vår nyhet), och Oxford lät OpenAI träna på inskanningar från Bodleian-biblioteket (vår nyhet).
Labben kanske kommer överens om att hålla takten nere, kanske inte. Du kan redan i dag bestämma vad din Mac delar. Ladda ner FireAI och prova gratis i 17 dagar. FireAI är gjort av HisnLabs.