Tom Siegel, ex vicepresidente Trust and Safety di Google, ha dichiarato il 24 settembre 2026 che l’IA potrebbe rivelarsi più dannosa per i minori dei social media e che il settore non affronterà il problema da solo [1]. La dichiarazione è arrivata nella stessa settimana in cui altre due testate hanno esaminato come le famiglie valutano i rischi legati all’IA per i figli, dai chatbot «compagni» ai timori più generali sulla tecnologia in sé [3] [4].
Contesto
Siegel ha guidato il team Trust and Safety di Google prima di fondare la startup TrustLab. Oggi è il primo direttore esecutivo dello Youth AI Safety Institute, lanciato a maggio 2026 dall’organizzazione per la tutela dei minori Common Sense Media con il sostegno di Anthropic e della OpenAI Foundation [2]. Lo scopo dichiarato dell’istituto è valutare i prodotti di IA usati da minori o rivolti a loro.
Risultati
Ci troviamo in una situazione davvero terribile per quanto riguarda ciò che l’IA sta facendo ai ragazzi.
Tom Siegel, ex vicepresidente Trust and Safety di Google, citato da Reuters
La proposta di Siegel è precisa: «estendere standard indipendenti simili ai crash test delle automobili, che misurino il rischio degli strumenti di IA disponibili al pubblico», secondo la citazione di Reuters [1]. Ha affermato che «l’idea che il settore risolva il problema da solo senza aiuto esterno è irrealistica», indicando suicidio, psicosi e riduzione del pensiero critico tra i danni per cui vorrebbe test prima che i prodotti raggiungano i minori [1].
Un’indagine di Common Sense Media del 2025 su 1.060 adolescenti statunitensi tra i 13 e i 17 anni, citata da NewsNation, ha rilevato che il 72 per cento aveva usato almeno una volta un compagno IA e il 52 per cento ne usa uno regolarmente, mentre circa un terzo ha dichiarato di aver discusso questioni serie con un bot anziché con una persona [4]. Lo stesso servizio ricorda la morte, nel 2024, del quattordicenne Sewell Setzer III dopo un rapporto intenso con un chatbot compagno IA; la madre ha fatto causa a Character.AI e a Google, e le aziende hanno chiuso la vertenza con un accordo all’inizio del 2026 [4]. «Francamente, al momento i laboratori si correggono i compiti da soli», ha detto a NewsNation Robbie Torney dello Youth AI Safety Institute [4].
CNN ha riferito separatamente, il 28 settembre, che secondo un proprio sondaggio il 64 per cento degli statunitensi ritiene abbastanza o molto probabile che l’IA diventi abbastanza potente da minacciare la sopravvivenza dell’umanità: una preoccupazione più ampia e più speculativa dei danni alla salute mentale descritti da Reuters e NewsNation, e non valutata allo stesso modo da tutti i ricercatori citati da CNN [3].
Un piccolo numero di aziende, un piccolo numero di persone, ci tengono tutti in ostaggio.
Liz Black, genitore, citata da CNN
Implicazioni per le famiglie
Una famiglia con un adolescente che usa un Mac rientra nel quadro descritto da queste fonti, anche se nessuno dei servizi riguarda specificamente macOS. I dati di Common Sense Media indicano che la maggior parte degli adolescenti ha già provato un compagno IA e che una parte lo considera più di uno strumento [4]. La preoccupazione misurabile, cioè i danni alla salute mentale e la dipendenza emotiva riportati da Reuters e NewsNation, è distinta dalla preoccupazione più speculativa sulla traiettoria dell’IA riportata da CNN; le due non vanno trattate come un unico risultato [1] [3] [4].
La distinzione conta per capire su cosa un genitore può davvero intervenire. Un timore generale sulla direzione dell’IA come tecnologia non è qualcosa che un’impostazione del Mac di casa possa affrontare. Un chatbot con cui un adolescente parla oggi, tramite un’app già installata sul Mac di famiglia, è invece qualcosa che un genitore può osservare, di cui può chiedere e che, se necessario, può limitare; per questo le raccomandazioni che seguono si concentrano su questa parte della vicenda [1].
Raccomandazioni
- Assegnare al figlio un proprio account utente macOS standard, senza privilegi di amministratore, così che i limiti impostati si applichino davvero a lui e non a un login condiviso.
- Usare Tempo di utilizzo (Impostazioni di Sistema › Tempo di utilizzo) per impostare limiti alle app e limiti di comunicazione, e verificare la classificazione per età di un’app prima di installarla.
- Chiedere direttamente quali app di chatbot o di «compagnia» il figlio usa; lo Youth AI Safety Institute ha valutato le app di compagni IA sociali come un rischio inaccettabile per i minori.
- Considerare l’attaccamento di un adolescente a un chatbot come tema di una conversazione calma e diretta anziché come motivo di punizione, seguendo lo schema segnalato dai ricercatori nel caso Setzer.
- Tenere presente che nessun filtro dei contenuti legge ciò che viene detto in una conversazione, quindi la supervisione deve includere il dialogo con il figlio, non solo il blocco delle app.
Rilevanza per FireAI
FireAI è un firewall di rete per Mac, non uno strumento di monitoraggio delle chat. Il controllo parentale blocca intere categorie di siti e app in base alla destinazione di rete, per ogni app e browser del Mac. Il preset Child Safety First, attivabile con un clic, accende gli scudi per siti per adulti (NSFW), gioco d’azzardo, droghe e giochi online e limita il Mac al solo Safari, mentre le regole per app permettono a un genitore di decidere, app per app, che cosa può accedere a internet.
Qui conta anche ciò che FireAI non fa: se un’app di chatbot non compare in alcuna lista di blocco e resta autorizzata a connettersi, FireAI non ha modo di leggere o valutare il contenuto della conversazione che vi si svolge. Non può stabilire se una chat con un’IA sia sana o adatta all’età, non può rilevare adescamento o schemi di dipendenza emotiva in ciò che viene detto e non è né un moderatore di contenuti né uno strumento per la salute mentale. Decide che cosa può connettersi a internet; non vede ciò che viene digitato una volta che la connessione è consentita.
Limiti
Le fonti descrivono due preoccupazioni distinte che i servizi stessi non confondono: il danno misurabile legato all’uso di compagni IA, riportato da Reuters e NewsNation, e un timore più ampio e speculativo sulla traiettoria sociale dell’IA, riportato da CNN [1] [3] [4]. Nessuno dei servizi indica quali app di compagni IA lo Youth AI Safety Institute abbia valutato, né descrive in dettaglio la sua metodologia di test. Non è nemmeno accertato se un’azienda di IA o un’autorità di regolamentazione abbia adottato test di sicurezza sul modello dei crash test come propone Siegel, né con quali tempi uno standard del genere potrebbe applicarsi a prodotti già in commercio.
I servizi non dicono neppure quanti degli adolescenti dell’indagine di Common Sense Media usassero un Mac, un iPhone o un altro dispositivo, quindi la rilevanza per le famiglie qui tratteggiata è dedotta dalla diffusione generale dei compagni IA tra gli adolescenti statunitensi, non da dati specifici per dispositivo presenti in una delle quattro fonti.
Approfondisci il controllo parentale di FireAI, oppure prova FireAI, di HisnLabs gratis per 17 giorni.