Tom Siegel, tidligere visepresident for Trust and Safety i Google, sa 24. september 2026 at KI kan vise seg å være mer skadelig for barn enn sosiale medier, og at bransjen ikke kommer til å løse problemet på egen hånd [1]. Uttalelsen kom samme uke som to andre medier undersøkte hvordan familier vurderer KI-relaterte risikoer for barn, fra chatboter som fungerer som følgesvenner til mer generell frykt for selve teknologien [3] [4].
Bakgrunn
Siegel ledet Trust and Safety i Google før han grunnla oppstartsselskapet TrustLab. Han er nå den første daglige lederen for Youth AI Safety Institute, som ble lansert i mai 2026 av interesseorganisasjonen for barn Common Sense Media, med støtte fra Anthropic og OpenAI Foundation [2]. Instituttets uttalte formål er å evaluere KI-produkter som brukes av eller markedsføres mot mindreårige.
Funn
Vi befinner oss i en virkelig forferdelig situasjon når det gjelder hva KI gjør med barn.
Tom Siegel, tidligere visepresident for Trust and Safety i Google, sitert av Reuters
Siegels forslag er konkret: å «skalere opp uavhengige standarder, i likhet med kollisjonstester av biler, som måler risikoen ved offentlig tilgjengelige KI-verktøy», slik Reuters siterte ham [1]. Han sa at «forestillingen om at bransjen finner ut av det selv uten hjelp utenfra, er urealistisk», og nevnte selvmord, psykose og svekket kritisk tenkning blant skadene han vil ha testet for før produktene når barn [1].
En undersøkelse fra Common Sense Media i 2025 blant 1 060 amerikanske tenåringer i alderen 13 til 17 år, som NewsNation viser til, fant at 72 prosent hadde brukt en KI-følgesvenn minst én gang og 52 prosent bruker en jevnlig, og at omtrent en tredjedel hadde diskutert alvorlige saker med en bot i stedet for med et menneske [4]. Den samme reportasjen omtaler dødsfallet til 14 år gamle Sewell Setzer III i 2024 etter et intenst forhold til en KI-chatbot; moren saksøkte Character.AI og Google, og selskapene inngikk forlik tidligere i 2026 [4]. «Ærlig talt retter laboratoriene sine egne lekser akkurat nå», sa Robbie Torney fra Youth AI Safety Institute til NewsNation [4].
CNN meldte separat 28. september at en CNN-måling viste at 64 prosent av amerikanerne mener det er noe eller svært sannsynlig at KI kan bli kraftig nok til å true menneskehetens overlevelse. Det er en bredere og mer spekulativ bekymring enn de psykiske helseskadene Reuters og NewsNation beskriver, og ikke alle forskerne CNN siterer, vekter den på samme måte [3].
Et lite antall selskaper, et lite antall mennesker, holder oss alle som gisler.
Liz Black, forelder, sitert av CNN
Hva dette betyr for familier
En husstand med en tenåring som har en Mac, berøres av mønsteret kildene beskriver, selv om ingen av reportasjene gjelder macOS spesielt. Tallene fra Common Sense Media tyder på at de fleste tenåringer allerede har prøvd en KI-følgesvenn, og at en del behandler den som mer enn et verktøy [4]. Den målbare bekymringen, psykiske helseskader og emosjonell avhengighet som Reuters og NewsNation melder om, er noe annet enn den mer spekulative bekymringen for KIs utvikling som CNN omtaler; de to bør ikke behandles som ett funn [1] [3] [4].
Skillet har betydning for hva en forelder faktisk kan gjøre noe med. En generell uro for hvor KI som teknologi er på vei, er ikke noe en innstilling på en Mac hjemme kan løse. En chatbot som en tenåring snakker med i dag, i en app som allerede er installert på familiens Mac, er derimot noe en forelder kan se på, spørre om og om nødvendig begrense. Derfor konsentrerer anbefalingene nedenfor seg om den delen av saken [1].
Anbefalinger
- Gi barnet sin egen vanlige macOS-brukerkonto uten administratorrettigheter, slik at begrensningene du setter, faktisk gjelder barnet og ikke en delt pålogging.
- Bruk Skjermtid (Systeminnstillinger › Skjermtid) til å sette appgrenser og kommunikasjonsgrenser, og sjekk en apps aldersgrense før den installeres.
- Spør direkte hvilke chatboter eller «følgesvenn»-apper barnet bruker; Youth AI Safety Institute har vurdert sosiale KI-følgesvenner som en uakseptabel risiko for mindreårige.
- Behandle en tenårings tilknytning til en chatbot som tema for en rolig og direkte samtale, ikke som grunn til straff, i tråd med mønsteret forskerne pekte på i Setzer-saken.
- Husk at ingen innholdsfilter leser hva som blir sagt i en samtale, så tilsyn må omfatte samtaler med barnet, ikke bare blokkering av apper.
Relevans for FireAI
FireAI er en nettverksbrannmur for Mac, ikke en chatovervåker. Foreldrekontroll blokkerer hele kategorier av nettsteder og apper etter nettverksdestinasjon, for alle apper og nettlesere på Macen. Forhåndsinnstillingen Child Safety First, som slås på med ett klikk, aktiverer skjoldene for NSFW, pengespill, rusmidler og spill og begrenser Macen til bare Safari, og med regler per app kan en forelder bestemme, app for app, hva som i det hele tatt får gå på nett.
Det FireAI ikke gjør, er viktig her: hvis en chatbot-app ikke står på noen blokkeringsliste og får gå på nett, har FireAI ingen mulighet til å lese eller vurdere innholdet i samtalen som foregår i den. Den kan ikke avgjøre om en KI-samtale er sunn eller alderstilpasset, kan ikke oppdage grooming eller mønstre av emosjonell avhengighet i det som blir sagt, og er verken et moderasjonsverktøy eller et verktøy for psykisk helse. Den avgjør hva som får koble seg til internett; den ser ikke hva som skrives når en tilkobling først er tillatt.
Begrensninger
Kildene beskriver to ulike bekymringer som reportasjene selv ikke slår sammen: målbar skade ved bruk av KI-følgesvenner, som Reuters og NewsNation melder om, og en bredere, mer spekulativ uro over KIs samfunnsmessige utvikling, som CNN omtaler [1] [3] [4]. Ingen av reportasjene oppgir hvilke KI-følgesvenner Youth AI Safety Institute har evaluert, eller beskriver testmetoden i detalj. Det er heller ikke fastslått om noe KI-selskap eller noen tilsynsmyndighet har tatt i bruk sikkerhetstesting etter modell av kollisjonstester slik Siegel foreslår, eller etter hvilken tidsplan en slik standard eventuelt kan gjelde for produkter som allerede er på markedet.
Reportasjene sier heller ikke hvor mange av tenåringene i undersøkelsen fra Common Sense Media som brukte en Mac, en iPhone eller en annen enhet. Relevansen for husstander som trekkes her, er derfor utledet av hvor utbredt bruken av KI-følgesvenner er blant amerikanske tenåringer generelt, ikke av enhetsspesifikke data i noen av de fire kildene.
Les mer om foreldrekontrollen i FireAI, eller prøv FireAI, av HisnLabs gratis i 17 dager.