Bill Gates sa at en lovpålagt «nødbryter» (kill switch) ikke i seg selv vil gjøre kunstig intelligens trygg, i et intervju sendt i NBCs Meet the Press 27. september 2026 [2]. Uttalelsen kom få dager etter at det amerikanske Senatet nesten vedtok en lov som pålegger KI-selskaper å bygge en slik bryter inn i sine kraftigste systemer [1].
Bakgrunn
Ti dager før intervjuet med Gates forsøkte senator John Neely Kennedy (R-La.) å få vedtatt et lovforslag som pålegger KI-selskaper å bygge en nødavstengingsmekanisme inn i sine kraftigste systemer, slik at menneskelige operatører i selskapene får myndighet til å slå av en modell som vurderes som farlig. Senator Rand Paul (R-Ky.) blokkerte forslaget i Senatet med begrunnelsen at regulering av en teknologi lovgiverne ennå ikke forstår, «risikerer å drepe innovasjon og sette den tiår tilbake», og foreslo i stedet en utredningskomité; Kennedy avviste endringsforslaget, og lovforslaget kom ikke videre [3]. Et eget lovforslag i Representantenes hus, H.R. 9917 fra representantene Ted Lieu og Nathaniel Moran, vil gi Department of Homeland Security myndighet til å pålegge nedbremsing eller avstenging etter en alvorlig KI-relatert hendelse, med daglige bøter for selskaper som ikke etterkommer pålegget [1].
Funn
Nødbryteren er, det er en litt merkelig greie. Det er ikke nok å ha en nødbryter.
Bill Gates, i NBCs Meet the Press
Gates sa til programleder Kristen Welker at dagens KI-modeller «ennå ikke er på et punkt der de på egen hånd tar over datamaskiner og ... ikke kan slås av», og at debatten om en av-knapp «viser hvor lite tekniske mange er» når det gjelder den faktiske risikoen [2]. Faren han beskrev, er at mennesker misbruker KI til dataangrep eller bioterrorisme, ikke at en modell handler på egen hånd, og det er ikke noe en av/på-knapp løser [2]. Hans alternativ er lovpålagt overvåking og dokumentasjon i KI-selskapene, slik at tilsynsmyndighetene kan se hva en kraftig modell brukes til. «Ingen mener at selvregulering er nok», sa han, og la til at USA bør sette standarden fordi andre land, også Kina, trolig vil følge etter [1].
Hva dette betyr for Mac-brukere
Dette er en diskusjon om hva de største KI-laboratoriene må bygge inn i sine kraftigste modeller, og hvordan Washington regulerer dem, ikke om noe som kjører på en personlig datamaskin. Ingenting i debatten endrer hva en app på en Mac kan gjøre i dag. Den gir et forvarsel om hva «KI-sikkerhet» trolig vil bety i lovgivningen når den kommer: obligatorisk overvåking og logging på selskapsnivå, bestemt av lovgivere og tilsynsmyndigheter, ikke en bryter en enkeltbruker noen gang vil røre [1] [2].
Anbefalinger
- Behandle dette som bakgrunnsstoff og ikke som en sjekkliste: ingen lovforslag i Senatet, vedtatt eller forkastet, endrer noe som må konfigureres på en personlig enhet.
- Hvis du bruker KI-verktøy i hverdagen, undersøk hva hvert av dem logger og hvor, siden overvåking på selskapsnivå er det Gates ber Kongressen om å kreve av laboratoriene selv.
- Legg merke til hvilke apper på en Mac som allerede fungerer som små KI-agenter, som bestiller ting, fyller ut skjemaer og leser filer, og gi dem bare tilgangen de trenger.
- Den som vil følge utviklingen, bør holde øye med H.R. 9917 og eventuell oppfølging i Senatet, ikke dette ene intervjuet, siden det er der en faktisk regel vil komme fra.
Relevans for FireAI
Det er verdt å være presis om uttrykket «nødbryter», fordi FireAI også har en, og den er ikke mekanismen Gates og Kongressen diskuterer. Nødbryteren i debatten i Senatet er bygd inn i et KI-laboratoriums egen infrastruktur: en måte å stanse en bestemt frontmodell på selskapsnivå, eventuelt etter pålegg fra en tilsynsmyndighet. Det er et styrings- og ingeniørspørsmål for organisasjoner som trener og drifter store KI-modeller, ikke en funksjon på en personlig datamaskin.
FireAIs nødbryter er noe mindre og mer bokstavelig: en knapp i menylinjen som kobler én Mac fra internett. Når den slås på, avvises nye tilkoblinger til omverdenen; enheter som allerede kommuniserer med hverandre på samme nettverk, for eksempel en skriver eller en delt disk, fortsetter å virke. Den lukker ikke tilkoblinger som allerede er åpne, og den slutter å virke mens Beskyttelse er satt på pause. Den overvåker, logger eller stanser ikke hva noen KI-modell gjør noe sted, verken på Macen eller i et laboratoriums datasenter, og har ingen forbindelse til avstengingsmyndigheten som Kennedys lovforslag eller H.R. 9917 vil gi selskaper eller tilsynsmyndigheter.
Det nærmeste FireAI kommer en hverdagsversjon av «overvåking», er sikkerhetsmodusene og tilkoblingsforespørslene: de viser hvilke apper på en Mac som kobler seg til hvor, og lar personen som bruker den, bestemme, i stedet for at et selskap eller en regjering bestemmer for dem. Det er en mindre og mer lokal oppgave enn den Gates beskriver, og det er ikke en KI-sikkerhetsmekanisme i hans forstand.
Begrensninger
Ingen av kildene sier hvilke konkrete krav til overvåking og dokumentasjon Gates ser for seg utover den generelle ideen, eller hvordan en slik regel skulle håndheves overfor selskaper utenfor amerikansk jurisdiksjon. Politico og Hoodline beskriver striden i Senatet fra ulike vinkler og overlapper ikke fullt ut i de prosessuelle detaljene, og ingen av kildene bekrefter om H.R. 9917 har fått berammet høringer eller har en realistisk vei til avstemning [1] [3].
Prøv FireAI, av HisnLabs gratis i 17 dager.