Tom Siegel, exvicepresidente de Trust and Safety de Google, dijo el 24 de septiembre de 2026 que la IA podría resultar más dañina para los niños que las redes sociales y que la industria no resolverá el problema por sí sola [1]. La declaración llegó la misma semana en que otros dos medios examinaron cómo las familias evalúan los riesgos de la IA para los niños, desde los chatbots de compañía hasta temores más amplios sobre la propia tecnología [3] [4].
Contexto
Siegel dirigió Trust and Safety en Google antes de fundar la startup TrustLab. Hoy es el primer director ejecutivo del Youth AI Safety Institute, creado en mayo de 2026 por la organización de defensa de la infancia Common Sense Media con el respaldo de Anthropic y de la OpenAI Foundation [2]. El propósito declarado del instituto es evaluar productos de IA que usan menores o que se promocionan entre ellos.
Hallazgos
Nos encontramos en una situación realmente terrible en cuanto a lo que la IA les está haciendo a los niños.
Tom Siegel, exvicepresidente de Trust and Safety de Google, citado por Reuters
La propuesta de Siegel es concreta: "ampliar estándares independientes, similares a las pruebas de choque de los autos, que midan el riesgo de las herramientas de IA disponibles al público", según lo citó Reuters [1]. Afirmó que "la idea de que la industria lo resolverá por sí misma sin ayuda externa es poco realista" y mencionó el suicidio, la psicosis y la disminución del pensamiento crítico entre los daños que quiere que se evalúen antes de que los productos lleguen a los niños [1].
Una encuesta de Common Sense Media de 2025 a 1,060 adolescentes estadounidenses de 13 a 17 años, citada en la cobertura de NewsNation, encontró que el 72 por ciento había usado un compañero de IA al menos una vez y que el 52 por ciento usa uno con regularidad; alrededor de un tercio dijo haber hablado de asuntos serios con un bot en lugar de con una persona [4]. El mismo reportaje aborda la muerte en 2024 de Sewell Setzer III, de 14 años, tras una relación intensa con un chatbot de compañía; su madre demandó a Character.AI y a Google, y las empresas llegaron a un acuerdo a principios de 2026 [4]. "Francamente, ahora mismo los laboratorios se están calificando su propia tarea", dijo a NewsNation Robbie Torney, del Youth AI Safety Institute [4].
Por separado, CNN informó el 28 de septiembre que, según una encuesta de la cadena, el 64 por ciento de los estadounidenses considera algo o muy probable que la IA llegue a ser lo bastante poderosa como para amenazar la supervivencia de la humanidad, una preocupación más amplia y especulativa que los daños a la salud mental que describen Reuters y NewsNation, y que no todos los investigadores citados por CNN ponderan de la misma forma [3].
Un puñado de empresas, un puñado de personas, nos tienen a todos como rehenes.
Liz Black, madre de familia, citada por CNN
Implicaciones para las familias
Un hogar con un adolescente que tiene una Mac se ve afectado por el patrón que describen estas fuentes, aunque ninguno de los reportajes trate de macOS en concreto. Las cifras de Common Sense Media indican que la mayoría de los adolescentes ya probó un compañero de IA y que una parte lo trata como algo más que una herramienta [4]. La preocupación medible, el daño a la salud mental y la dependencia emocional que reportan Reuters y NewsNation, es distinta de la preocupación más especulativa sobre el rumbo de la IA que reporta CNN; no deben tratarse como un solo hallazgo [1] [3] [4].
La distinción importa para saber sobre qué puede actuar realmente un padre o una madre. Una preocupación general sobre hacia dónde va la IA como tecnología no es algo que resuelva ningún ajuste en la Mac de la casa. Un chatbot con el que un adolescente habla hoy, en una app ya instalada en la Mac familiar, sí es algo que los padres pueden revisar, preguntar y, si hace falta, restringir; por eso las recomendaciones siguientes se centran en esa parte de la historia [1].
Recomendaciones
- Dale a cada hijo su propia cuenta de usuario estándar de macOS, sin privilegios de administrador, para que los límites que configures se le apliquen a él y no a una sesión compartida.
- Usa Tiempo en pantalla (Configuración del Sistema › Tiempo en pantalla) para fijar límites de apps y límites de comunicación, y revisa la clasificación por edad de una app antes de instalarla.
- Pregunta directamente qué apps de chatbot o de "compañía" usa tu hijo; el Youth AI Safety Institute evaluó las apps sociales de compañía con IA como un riesgo inaceptable para menores.
- Trata el apego de un adolescente a un chatbot como tema de una conversación tranquila y directa, no como motivo de castigo, siguiendo el patrón que señalaron los investigadores en el caso Setzer.
- Ten presente que ningún filtro de contenido lee lo que se dice dentro de una conversación, así que la supervisión tiene que incluir hablar con tu hijo, no solo bloquear apps.
Relevancia para FireAI
FireAI es un firewall de red para Mac, no un monitor de chats. El Control parental bloquea categorías completas de sitios y apps por destino de red, para todas las apps y navegadores de la Mac. El preajuste de un clic Child Safety First activa los escudos de contenido para adultos, apuestas, drogas y juegos en línea y limita la Mac a Safari únicamente, y las reglas por app permiten que los padres decidan, app por app, qué puede conectarse a internet.
Lo que no hace es importante aquí: si una app de chatbot no está en ninguna lista de bloqueo y se le permite conectarse, FireAI no tiene forma de leer ni juzgar el contenido de la conversación que ocurre dentro de ella. No puede saber si un chat con IA es sano o adecuado para la edad, no detecta patrones de grooming ni de dependencia emocional en lo que se dice, y no es un moderador de contenido ni una herramienta de salud mental. Decide qué puede conectarse a internet; no ve lo que se escribe una vez que se permite la conexión.
Limitaciones
Las fuentes describen dos preocupaciones distintas que los propios reportajes no mezclan: el daño medible por el uso de compañeros de IA, reportado por Reuters y NewsNation, y una inquietud más amplia y especulativa sobre el rumbo social de la IA, reportada por CNN [1] [3] [4]. Ninguno de los reportajes dice qué apps de compañía con IA evaluó el Youth AI Safety Institute ni describe en detalle su metodología de pruebas. Tampoco está establecido si alguna empresa de IA o algún regulador adoptó pruebas de seguridad al estilo de las pruebas de choque, como propone Siegel, ni en qué plazo podría aplicarse un estándar así a productos que ya están en el mercado.
Los reportajes tampoco dicen cuántos de los adolescentes de la encuesta de Common Sense Media usaban una Mac, un iPhone u otro dispositivo, por lo que la relevancia para los hogares que se plantea aquí se infiere de lo común que es el uso de compañeros de IA entre los adolescentes estadounidenses en general, no de datos por dispositivo de ninguna de las cuatro fuentes.
Lee más sobre el Control parental de FireAI o prueba FireAI, de HisnLabs gratis durante 17 días.