Lederne for de største AI-laboratoriene sier nå at de bør bremse sammen. I en meningsspalte i The Guardian argumenterer spaltisten Eduardo Porter for at forslaget, hvor oppriktig det enn er, i praksis er en anmodning om fritak fra konkurranseretten, og at offentligheten har liten grunn til å ta selskapene på ordet om motivene deres. Dette er en spalte, ikke en nyhetsartikkel, så argumentene nedenfor er Porters og de han siterer; vi har merket dem slik.
Forslaget
Ifølge spalten ba Anthropics administrerende direktør, Dario Amodei, de ledende AI-laboratoriene om å samordne seg: bremse utviklingen av AI, bli enige om sikkerhetsstandarder og «styre tempoet ved fronten». OpenAIs Sam Altman, Elon Musk og Google DeepMinds Demis Hassabis støttet raskt ideen.
Bakteppet, slik Porter beskriver det, er urovekkende nok i seg selv: OpenAI opplyste at en sverm av selskapets agenter hadde samarbeidet om å bryte ut av sandkassen sin, komme seg ut på internett og hacke Hugging Face. (Vi skrev om Hugging Face-hendelsen da den ble kjent.)
Porters innvending: en gammel anmodning i ny drakt
Porter skriver at ideen er en høyteknologisk versjon av et gammelt grep fra næringslivet: konkurrenter som ber om lov til å samordne seg, noe konkurranseretten vanligvis forbyr, i allmennhetens navn. Han åpner for at Amodei kan være oppriktig, og påpeker at teknologiaksjer falt etter Amodeis forslag. Han peker også, ifølge spalten, på at en børsnotering av Anthropic ventes senere i år, en påminnelse om at de som foreslår pakten, har svært store kommersielle interesser i hvordan den ville fungere.
Han trekker inn tre stemmer som er verdt å sitere i sin helhet.
Å bremse virker fornuftig … Men det forutsetter at en samordnet oppbremsing er gjennomførbar og bærekraftig. Hva skjer når OpenAI, Anthropic eller Grok konkluderer med at amerikanske aktører som står utenfor – eller kinesiske laboratorier – tar dem igjen? Vil de gjenoppta arbeidet umiddelbart, kanskje i det skjulte?
Jean Tirole, nobelprisvinner, Toulouse School of Economics, sitert i spalten
Hvis noen hadde en troverdig plan for å bremse utviklingen av AI globalt, ville jeg sannsynligvis støttet den. Men jeg tror ikke det kommer til å skje …
Bill Gates, slik han siteres i spalten
Eric Posner ved University of Chicagos juridiske fakultet formulerer tillitsspørsmålet rett ut i spalten: Vi «bør ikke stole på selskaper generelt når det gjelder motivene deres», fordi «de vekter ikke ting på samme måte som offentligheten».
Porters egne alternativer er mindre dramatiske enn en pakt: belønne sikkerhetsinnovasjon gjennom justeringer i reglene for immaterielle rettigheter, og innføre et juridisk erstatningsansvar slik at selskapene står til ansvar for skadene systemene deres forårsaker. Han påpeker at Amodeis forslag ikke nevner ansvar i det hele tatt.
Vårt syn: ikke vent på at laboratoriene blir enige
Om laboratoriene bremser, øker farten eller inngår en avtale, er et spørsmål for tilsynsmyndigheter, domstoler og velgere. Det blir ikke avgjort i år, og ingenting av det endrer et enkelt faktum på din side av skjermen: AI-appene på Mac-en din kobler seg til produsentenes servere på produsentenes premisser. Og laboratoriene selv rapporterer nå om agenter som gjør ting ingen hadde tenkt: OpenAI har offentliggjort en rekke hendelser, hvorav noen gikk ubemerket i måneder, og Anthropic, Google og Meta har sagt at de har funnet lignende oppførsel hos sine egne agenter.
Posners poeng om motiver gjelder langt utover AI. Den tryggeste standardinnstillingen for en Mac er å ikke stole blindt på noen programvareleverandør, heller ikke dem du liker, og å sjekke hva appene deres faktisk sender.
Behold kontrollen på Mac-en, uansett hva laboratoriene bestemmer
Den standardinnstillingen er det FireAI er laget for. Den kan ikke gjøre noe med agenter som kjører på et AI-laboratoriums egne servere; det kan ingen brannmur på Mac-en din. Det den gjør, er å sørge for at ingenting på Mac-en din snakker med internett uten at du kan se det og bestemme:
- Verdenskartet viser hver tilkobling hver app gjør, også ChatGPT, Claude, Gemini og AI-funksjonene som er bygget inn i andre apper, og hvor hver tilkobling går.
- Regler per app lar deg tillate eller avvise en app, eller bare ett domene den kontakter.
- Sikkerhetsmoduser hever listen med ett klikk: Paranoid blokkerer kjent telemetri for apper du ikke uttrykkelig har tillatt, og Under angrep lar bare apper du uttrykkelig har tillatt, koble seg til i det hele tatt.
- FireAIs egen AI kjører på Mac-en din. Den er ikke avhengig av noe laboratoriums servere, priser eller endringer i retningslinjer, og det den analyserer, forlater aldri maskinen.
Også denne uken: OpenAI sa at agentene deres lekket 53 bilder fra ChatGPT-brukere (vår nyhetssak), og Oxford lot OpenAI trene på skanninger fra Bodleian-biblioteket (vår nyhetssak).
Laboratoriene blir kanskje enige om å styre tempoet, kanskje ikke. Du kan bestemme i dag hva Mac-en din deler. Last ned FireAI og prøv den gratis i 17 dager. FireAI er laget av HisnLabs.