Et tre dager langt statsbesøk mellom USA og Kina endte fredag uten en stor avtale om kunstig intelligens, meldte The Guardian. Det største konkrete resultatet av toppmøtet var en forlengelse på to måneder av en handelsvåpenhvile mellom de to landene.
Bakgrunn
Toppmøtet samlet USAs president Donald Trump og Kinas president Xi Jinping i et øyeblikk da begge lands KI-industri vokser raskt og hver regjering separat har signalisert interesse for å sette tempoet for KI-utviklingen, i stedet for å bremse den.
Funn
Xi sa at begge land har et «ansvar for å utvikle og forvalte KI til det gode», og at de bør «sikre at utviklingen av KI alltid er under menneskelig kontroll». Kina har satt seg som mål at neste generasjons smarte terminaler og KI-agenter skal nå en utbredelse på over 90 prosent innen 2030, ifølge rapporten [1].
Trump, for sin del, presset på for å omdøpe KI til «superintelligens». Flere amerikanske teknologiledere, blant dem Elon Musk, AMDs Lisa Su, Nvidias Jensen Huang og Apples Tim Cook, deltok på statsmiddagen; deres kinesiske motparter var ikke til stede, bemerket avisen [1].
Kongressmedlem Ro Khanna, som hadde foreslått tekniske arbeidsgrupper mellom de to landene og en pause i selvforbedrende KI, sa til The Guardian at toppmøtet ikke nådde det som var mulig: «Det var en så åpen mulighet» [1].
Det eneste de ser ut til å være enige om, er at ingen av dem vil senke farten med denne teknologien.
Jonathan Czin, Brookings Institution, sitert i The Guardian
Konsekvenser for Mac-brukere
Legger man geopolitikken til side, står ett punkt fram: ingen av verdens to største KI-stormakter planlegger å bremse, og den ene har et uttalt mål om mer enn 90 prosent utbredelse for neste generasjons smarte terminaler og KI-agenter innen 2030. KI-laboratoriene selv diskuterer separat om de skal samordne seg om sikkerhet, slik vi dekket i KI-laboratoriene vil føre tilsyn med seg selv, og har meldt om agenter som gjorde ting ingen hadde tenkt, for eksempel de 53 bildene fra ChatGPT-brukere som OpenAIs agenter lekket. En KI-agent er programvare som handler på vegne av en person: den leser, skriver, klikker og kobler seg til. På en datamaskin betyr det apper og bakgrunnsprosesser som når servere en bruker kanskje aldri har hørt om. Uansett hva som blir avtalt, eller ikke, på et framtidig toppmøte, skal de to lederne møtes igjen på APEC-toppmøtet i Shenzhen i november og på G20 i desember, så regelverket for KI, hvis det kommer, er fortsatt et stykke unna.
Anbefalinger
- Sjekk hvilke apper og KI-verktøy på din egen Mac som allerede har tillatelse til å nå internett, i stedet for å anta at noen regjeringsavtale vil avgjøre det for deg.
- Hold macOS og installerte apper oppdatert, siden KI-funksjoner legges til i vanlig programvare raskere enn de fleste legger merke til.
- Gå gjennom nye KI-apper og agentverktøy før du gir dem bred konto- eller filtilgang, på samme måte som for annen ny programvare.
Relevans for FireAI
FireAI er en brannmur for Mac som legger dette kontrollnivået i personens egne hender, uten å avhenge av noen regjerings eller noe selskaps løfter. Den spør før en app, også en KI-app eller agent, kobler seg til internett for første gang, og husker svaret som en regel. (I modusen Hjemme tillates Apples egne systemverktøy automatisk; i modusen Paranoid må de godkjennes som alle andre apper.) Verdenskartet viser hvor hver tilkobling går, så en KI-apps trafikk ikke er usynlig. Regler per app og sikkerhetsmodusene (Hjemme, Kafé, Paranoid, Under angrep) bestemmer hvor streng en Mac skal være, fra å spørre om nye apper til å tillate bare dem som allerede er godkjent. FireAIs egen KI kjører på Macen, ikke på en server i noe land, og det den analyserer, forlater aldri maskinen.
Begrensninger
Denne framstillingen bygger på én enkelt Guardian-rapport om toppmøtet. «Ingen stor avtale» utelukker ikke mindre eller uformelle avtaler som artikkelen ikke beskriver. Kinas utbredelsestall på 90 prosent er den kinesiske regjeringens eget uttalte mål, ikke et uavhengig målt resultat, og rapporten sier ikke hvordan framdriften mot det skal følges. De to lederes planlagte møter i november og desember kan endre bildet som er beskrevet her.
Toppmøtene vil fortsette. Hva som kobler seg til fra en Mac, er fortsatt brukerens eget valg. Last ned FireAI og prøv gratis i 17 dager. FireAI er laget av HisnLabs.