Tom Siegel, ex-vice-presidente de Trust and Safety do Google, afirmou em 24 de setembro de 2026 que a IA pode se revelar mais prejudicial às crianças do que as redes sociais e que o setor não resolverá o problema sozinho [1]. A declaração veio na mesma semana em que outros dois veículos examinaram como as famílias avaliam os riscos da IA para as crianças, dos chatbots de companhia a temores mais amplos sobre a própria tecnologia [3] [4].
Contexto
Siegel chefiou a área de Trust and Safety do Google antes de fundar a startup TrustLab. Hoje ele é o primeiro diretor executivo do Youth AI Safety Institute, lançado em maio de 2026 pela organização de defesa da infância Common Sense Media, com apoio da Anthropic e da OpenAI Foundation [2]. O objetivo declarado do instituto é avaliar produtos de IA usados por menores ou comercializados para eles.
Constatações
Estamos numa situação realmente terrível em relação ao que a IA está fazendo com as crianças.
Tom Siegel, ex-vice-presidente de Trust and Safety do Google, citado pela Reuters
A proposta de Siegel é concreta: "ampliar padrões independentes semelhantes aos testes de colisão de carros, que meçam o risco das ferramentas de IA disponíveis ao público", nas palavras citadas pela Reuters [1]. Ele disse que "a ideia de que o setor vai resolver isso sozinho, sem ajuda externa, não é realista" e citou suicídio, psicose e redução do pensamento crítico entre os danos que gostaria de ver testados antes que os produtos cheguem às crianças [1].
Uma pesquisa de 2025 da Common Sense Media com 1.060 adolescentes americanos de 13 a 17 anos, citada na reportagem da NewsNation, constatou que 72 por cento já tinham usado uma IA de companhia ao menos uma vez e 52 por cento usam uma regularmente; cerca de um terço disse ter conversado sobre assuntos sérios com um bot em vez de uma pessoa [4]. A mesma reportagem trata da morte, em 2024, de Sewell Setzer III, de 14 anos, depois de uma relação intensa com um chatbot de companhia; a mãe dele processou a Character.AI e o Google, e as empresas fecharam um acordo no início de 2026 [4]. "Francamente, hoje os laboratórios estão corrigindo a própria lição de casa", disse Robbie Torney, do Youth AI Safety Institute, à NewsNation [4].
A CNN informou separadamente, em 28 de setembro, que uma pesquisa da emissora constatou que 64 por cento dos americanos consideram um pouco ou muito provável que a IA se torne poderosa o bastante para ameaçar a sobrevivência da humanidade, uma preocupação mais ampla e mais especulativa do que os danos à saúde mental descritos pela Reuters e pela NewsNation, e que nem todos os pesquisadores ouvidos pela CNN avaliam da mesma forma [3].
Um pequeno número de empresas, um pequeno número de pessoas, está mantendo todos nós como reféns.
Liz Black, mãe, citada pela CNN
Implicações para as famílias
Uma casa com um adolescente que tem um Mac é afetada pelo padrão descrito por essas fontes, ainda que nenhuma das reportagens trate especificamente do macOS. Os números da Common Sense Media indicam que a maioria dos adolescentes já experimentou uma IA de companhia e que uma parte a trata como mais do que uma ferramenta [4]. A preocupação mensurável, os danos à saúde mental e a dependência emocional relatados pela Reuters e pela NewsNation, é distinta da preocupação mais especulativa sobre a trajetória da IA noticiada pela CNN; as duas não devem ser tratadas como uma única constatação [1] [3] [4].
A distinção importa para aquilo sobre o que um pai ou uma mãe pode de fato agir. Uma preocupação ampla com o rumo da IA como tecnologia não é algo que alguma configuração de um Mac doméstico resolva. Já um chatbot com que um adolescente conversa hoje, em um app instalado no Mac da família, é algo que os pais podem examinar, perguntar a respeito e, se necessário, restringir; por isso as recomendações abaixo se concentram nessa parte da história [1].
Recomendações
- Crie para a criança uma conta de usuário padrão própria no macOS, sem privilégios de administrador, para que os limites definidos se apliquem de fato a ela, e não a um login compartilhado.
- Use o Tempo de Uso (Ajustes do Sistema › Tempo de Uso) para definir limites de apps e Limites de Comunicação, e confira a classificação etária de um app antes de instalá-lo.
- Pergunte diretamente quais apps de chatbot ou de "companhia" a criança usa; o Youth AI Safety Institute avaliou os apps de companhia social com IA como um risco inaceitável para menores.
- Trate o apego de um adolescente a um chatbot como assunto para uma conversa calma e direta, e não como motivo de castigo, seguindo o padrão que os pesquisadores apontaram no caso Setzer.
- Lembre-se de que nenhum filtro de conteúdo lê o que é dito dentro de uma conversa; por isso a supervisão precisa incluir conversar com a criança, e não apenas bloquear apps.
Relevância para o FireAI
O FireAI é um firewall de rede para o Mac, não um monitor de conversas. O Controle parental bloqueia categorias inteiras de sites e apps pelo destino de rede, para todos os apps e navegadores do Mac. O ajuste Child Safety First, ativado com um clique, liga os escudos de conteúdo adulto, apostas, drogas e jogos e restringe o Mac apenas ao Safari, e as regras por app permitem que os pais decidam, app por app, o que pode ou não acessar a internet.
O que ele não faz é importante aqui: se um app de chatbot não estiver em nenhuma lista de bloqueio e continuar com acesso à internet, o FireAI não tem como ler nem avaliar o conteúdo da conversa que acontece dentro dele. Ele não sabe dizer se uma conversa com IA é saudável ou adequada à idade, não detecta padrões de aliciamento ou de dependência emocional no que é dito e não é um moderador de conteúdo nem uma ferramenta de saúde mental. Ele decide o que pode se conectar à internet; não vê o que é digitado depois que uma conexão é permitida.
Limitações
As fontes descrevem duas preocupações distintas que as próprias reportagens não misturam: danos mensuráveis do uso de IAs de companhia, relatados pela Reuters e pela NewsNation, e uma inquietação mais ampla e especulativa sobre a trajetória social da IA, noticiada pela CNN [1] [3] [4]. Nenhuma das reportagens diz quais apps de IA de companhia o Youth AI Safety Institute avaliou nem descreve em detalhe sua metodologia de testes. Também não está estabelecido se alguma empresa de IA ou órgão regulador adotou testes de segurança no estilo dos testes de colisão, como propõe Siegel, nem em que prazo tal padrão poderia valer para produtos já no mercado.
As reportagens também não dizem quantos dos adolescentes da pesquisa da Common Sense Media usavam um Mac, um iPhone ou outro dispositivo; por isso, a relevância doméstica apresentada aqui é inferida de quão comum é o uso de IAs de companhia entre adolescentes americanos em geral, e não de dados específicos por dispositivo em alguma das quatro fontes.
Saiba mais sobre o Controle parental do FireAI ou experimente o FireAI, da HisnLabs grátis por 17 dias.