FireAIs sikkerhetsblogg

Av FireAI Security & Research Team · Publisert

Deepfake-mappen: Hvordan KI rekonstruerer livet ditt fra digitale brødsmuler

Deepfake-mappen: Hvordan KI rekonstruerer livet ditt fra digitale brødsmuler

Et «datainnbrudd» pleide å bety én dramatisk hendelse: et selskaps database, stjålet i løpet av en natt. Det skjer fortsatt, men det er ikke lenger den viktigste måten et KI-system bygger et bilde av deg på. Den vanligere veien er stillere: hundrevis av små fragmenter som hver for seg er uinteressante — et bilde med geotagg, et talenotat, et jobbskifte på LinkedIn, et lekket passord fra en helt annen tjeneste — og som betyr svært lite alene.

Hvorfor fragmenter nå er nok

Store modeller er gode på nøyaktig denne oppgaven: å finne mønstre på tvers av spredte, rotete data og fylle inn hullene. Gi en dyktig modell nok offentlige bilder, og den kan utlede nabolaget ditt fra bakgrunnene; nok korte lydklipp, og den kan etterligne en stemme godt nok til å lure en bekymret slektning på telefonen — nettopp svindelen FTC advarte mot i mars 2023, der kriminelle klonet stemmen til et familiemedlem fra lyd offeret aldri visste var i omløp.

Kontoen som aldri har blitt «hacket»

Det er dette som gjør trusselen vanskelig å se: ingen enkelt app på Macen din trenger å være ondsinnet, og ingen enkelt innlogging trenger å bli stjålet, for at en detaljert profil skal finnes et sted. Hver app ser bare det ene fragmentet den selv samlet inn — en posisjon, et filnavn, en kontaktsynkronisering — og aner ikke at den bidrar til noe større. Sammenstillingen skjer etter at dataene har forlatt enheten din, på servere du aldri valgte å stole på.

Det som faktisk hjelper

  • Fjern posisjonsdata (EXIF-metadata) fra bilder før du deler dem offentlig — de fleste bildeapper har et ett-trykks-valg for dette.
  • Behandle en uventet, hastende telefonsamtale — selv en som høres helt riktig ut — som en grunn til å legge på og ringe tilbake på et kjent nummer, ikke som en grunn til å handle umiddelbart.
  • Fragmentene som betyr mest, er de du aldri ser forlate maskinen: å vite hvilke apper som stille sender data, og til hvem, er den eneste måten å tette det hullet på før det blir en mappe.

Hvor FireAI og HisnLabs kommer inn

Ingenting av dette krever ett enkelt stort datainnbrudd — det krever hundre små, av den typen som skjer stille hver gang en app ringer hjem med posisjonen til et bilde, tidsstempelet for en innlogging eller fingeravtrykket til en enhet.

FireAI er HisnLabs’ eget produkt: en KI-brannmur som kjører direkte på Macen. Den viser hver tilkobling appene dine gjør, i klart språk, og lar deg bestemme hva som forlater Macen din — KI-en kjører lokalt, så trafikken din sendes aldri til oss eller noen andre. HisnLabs’ sikkerhetsforskningsteam er de som holder disse vurderingene pålitelige: de katalogiserer hvilke domener som er vanlig telemetri og hvilke som er en ekte tjeneste, sporer landet og nettverket bak en tilkobling, og trener den lokale modellen (Autopilot-funksjonen) på ekte trafikkmønstre — uten at noe av det forlater Macen din.

Du kan lese om de tekniske valgene bak, eller prøve FireAI i 17 dager, på FireAI, fra HisnLabs.

Kilder