Tom Siegel, antigo vice-presidente de Trust and Safety da Google, afirmou a 24 de setembro de 2026 que a IA pode vir a ser mais prejudicial para as crianças do que as redes sociais e que a indústria não resolverá o problema por si só [1]. A declaração surgiu na mesma semana em que outros dois meios de comunicação analisaram a forma como as famílias avaliam os riscos da IA para as crianças, desde os chatbots de companhia até receios mais amplos sobre a própria tecnologia [3] [4].
Contexto
Siegel dirigiu a área de Trust and Safety da Google antes de fundar a startup TrustLab. É agora o primeiro diretor executivo do Youth AI Safety Institute, lançado em maio de 2026 pela organização de defesa das crianças Common Sense Media, com o apoio da Anthropic e da OpenAI Foundation [2]. O objetivo declarado do Instituto é avaliar produtos de IA usados por menores ou a eles destinados.
Conclusões
Encontramo-nos numa situação verdadeiramente terrível no que respeita ao que a IA está a fazer às crianças.
Tom Siegel, antigo VP de Trust and Safety da Google, citado pela Reuters
A proposta de Siegel é concreta: «alargar normas independentes, semelhantes aos testes de colisão de automóveis, que meçam o risco das ferramentas de IA disponíveis ao público», nas palavras citadas pela Reuters [1]. Afirmou que «a ideia de que a indústria resolverá o problema sozinha, sem ajuda externa, é irrealista», e apontou o suicídio, a psicose e a diminuição do pensamento crítico entre os danos que pretende ver testados antes de os produtos chegarem às crianças [1].
Um inquérito da Common Sense Media de 2025 a 1060 adolescentes norte-americanos entre os 13 e os 17 anos, citado pela NewsNation, concluiu que 72 por cento já tinham usado um companheiro de IA pelo menos uma vez e que 52 por cento o usam regularmente, e cerca de um terço disse ter discutido assuntos sérios com um bot em vez de uma pessoa [4]. A mesma reportagem refere a morte, em 2024, de Sewell Setzer III, de 14 anos, após uma relação intensa com um chatbot de companhia; a mãe processou a Character.AI e a Google, e as empresas chegaram a acordo no início de 2026 [4]. «Francamente, neste momento os laboratórios estão a corrigir os seus próprios trabalhos de casa», disse Robbie Torney, do Youth AI Safety Institute, à NewsNation [4].
A CNN noticiou separadamente, a 28 de setembro, que uma sondagem da própria CNN concluiu que 64 por cento dos norte-americanos consideram algo ou muito provável que a IA se torne suficientemente poderosa para ameaçar a sobrevivência da humanidade, uma preocupação mais ampla e mais especulativa do que os danos para a saúde mental descritos pela Reuters e pela NewsNation, e que nem todos os investigadores citados pela CNN avaliam da mesma forma [3].
Um pequeno número de empresas, um pequeno número de pessoas, mantém-nos a todos reféns.
Liz Black, mãe, citada pela CNN
Implicações para as famílias
Um agregado familiar com um adolescente que tem um Mac é afetado pelo padrão que estas fontes descrevem, ainda que nenhuma das reportagens diga respeito especificamente ao macOS. Os números da Common Sense Media indicam que a maioria dos adolescentes já experimentou um companheiro de IA e que uma parte o trata como algo mais do que uma ferramenta [4]. A preocupação mensurável, os danos para a saúde mental e a dependência emocional relatados pela Reuters e pela NewsNation, é distinta da preocupação mais especulativa sobre a trajetória da IA noticiada pela CNN; as duas não devem ser tratadas como uma única conclusão [1] [3] [4].
A distinção importa para aquilo sobre o qual um pai ou uma mãe pode efetivamente agir. Uma inquietação mais ampla sobre o rumo da IA enquanto tecnologia não é algo que alguma definição de um Mac doméstico resolva. Um chatbot com o qual um adolescente conversa hoje, numa app já instalada num Mac da casa, é algo que os pais podem examinar, sobre o qual podem perguntar e que podem, se necessário, restringir, e é por isso que as recomendações seguintes se centram nessa parte da questão [1].
Recomendações
- Dar à criança a sua própria conta de utilizador macOS normal, sem privilégios de administrador, para que os limites definidos se lhe apliquem realmente e não a uma sessão partilhada.
- Usar o Tempo de ecrã (Definições do Sistema › Tempo de ecrã) para definir limites por app e limites de comunicação, e verificar a classificação etária de uma app antes de a instalar.
- Perguntar diretamente que apps de chatbot ou de «companhia» a criança usa; o Youth AI Safety Institute avaliou as apps sociais de companhia com IA como um risco inaceitável para menores.
- Tratar o apego de um adolescente a um chatbot como tema de uma conversa calma e direta e não como motivo de castigo, de acordo com o padrão assinalado pelos investigadores no caso Setzer.
- Ter presente que nenhum filtro de conteúdos lê o que é dito dentro de uma conversa, pelo que a supervisão tem de incluir falar com a criança e não apenas bloquear apps.
Relevância para a FireAI
A FireAI é uma firewall de rede para o Mac, não um monitor de conversas. O Controlo parental bloqueia categorias inteiras de sites e apps pelo destino de rede, para todas as apps e navegadores do Mac. A predefinição de um clique Child Safety First ativa os escudos NSFW, Jogo a dinheiro, Drogas e Jogos e restringe o Mac apenas ao Safari, e as regras por app permitem aos pais decidir, app a app, o que pode sequer aceder à internet.
Importa aqui o que a FireAI não faz: se uma app de chatbot não constar de nenhuma lista de bloqueio e continuar autorizada a aceder à internet, a FireAI não tem forma de ler ou avaliar o conteúdo da conversa que nela decorre. Não consegue dizer se uma conversa com uma IA é saudável ou adequada à idade, não deteta padrões de aliciamento ou de dependência emocional no que é dito e não é um moderador de conteúdos nem uma ferramenta de saúde mental. Decide o que pode ligar-se à internet; não vê o que é escrito depois de uma ligação ser autorizada.
Limitações
As fontes descrevem duas preocupações distintas que as próprias reportagens não fundem: danos mensuráveis do uso de companheiros de IA, relatados pela Reuters e pela NewsNation, e uma inquietação mais ampla e especulativa sobre a trajetória social da IA, noticiada pela CNN [1] [3] [4]. Nenhuma das reportagens indica que apps de companhia com IA foram avaliadas pelo Youth AI Safety Institute, nem descreve em pormenor a sua metodologia de teste. Também não está estabelecido se alguma empresa de IA ou algum regulador adotou testes de segurança ao estilo dos testes de colisão, como Siegel propõe, nem em que prazo tal norma se poderia aplicar a produtos já no mercado.
As reportagens também não dizem quantos dos adolescentes do inquérito da Common Sense Media usavam um Mac, um iPhone ou outro dispositivo, pelo que a relevância doméstica aqui apresentada é inferida da frequência do uso de companheiros de IA entre os adolescentes norte-americanos em geral e não de dados específicos por dispositivo em qualquer das quatro fontes.
Saiba mais sobre o Controlo parental da FireAI ou experimente a FireAI, da HisnLabs gratuitamente durante 17 dias.