Tom Siegel, antiguo vicepresidente de Trust and Safety de Google, afirmó el 24 de septiembre de 2026 que la IA podría resultar más dañina para los menores que las redes sociales y que el sector no resolverá el problema por sí solo [1]. La declaración llegó la misma semana en que otros dos medios analizaron cómo valoran las familias los riesgos de la IA para los menores, desde los chatbots de compañía hasta temores más amplios sobre la propia tecnología [3] [4].
Contexto
Siegel dirigió Trust and Safety en Google antes de fundar la startup TrustLab. Ahora es el primer director ejecutivo del Youth AI Safety Institute, creado en mayo de 2026 por la organización de defensa de la infancia Common Sense Media con el respaldo de Anthropic y la OpenAI Foundation [2]. El objetivo declarado del instituto es evaluar los productos de IA que usan los menores o que se comercializan para ellos.
Hallazgos
Nos encontramos en una situación realmente terrible en cuanto a lo que la IA está haciendo a los niños.
Tom Siegel, antiguo vicepresidente de Trust and Safety de Google, citado por Reuters
La propuesta de Siegel es concreta: «ampliar estándares independientes similares a las pruebas de choque de los coches que midan el riesgo de las herramientas de IA disponibles al público», según la cita de Reuters [1]. Dijo que «la idea de que el sector lo resolverá por sí mismo sin ayuda externa es poco realista», y citó el suicidio, la psicosis y la merma del pensamiento crítico entre los daños que quiere evaluar antes de que los productos lleguen a los menores [1].
Una encuesta de Common Sense Media de 2025 a 1.060 adolescentes estadounidenses de 13 a 17 años, citada en el reportaje de NewsNation, constató que el 72 por ciento había usado un compañero de IA al menos una vez y el 52 por ciento lo usa con regularidad; alrededor de un tercio dijo haber hablado de asuntos serios con un bot en lugar de con una persona [4]. El mismo reportaje recoge la muerte en 2024 de Sewell Setzer III, de 14 años, tras una relación intensa con un chatbot de compañía; su madre demandó a Character.AI y a Google, y las empresas llegaron a un acuerdo a principios de 2026 [4]. «Francamente, ahora mismo los laboratorios se ponen la nota a sí mismos», declaró a NewsNation Robbie Torney, del Youth AI Safety Institute [4].
CNN informó por separado, el 28 de septiembre, de que según una encuesta propia el 64 por ciento de los estadounidenses considera algo o muy probable que la IA llegue a ser lo bastante potente como para amenazar la supervivencia de la humanidad, una preocupación más amplia y especulativa que los daños a la salud mental que describen Reuters y NewsNation, y que no todos los investigadores citados por CNN valoran del mismo modo [3].
Un pequeño número de empresas, un pequeño número de personas, nos tiene a todos como rehenes.
Liz Black, madre, citada por CNN
Implicaciones para las familias
Un hogar con un adolescente que tiene un Mac se ve afectado por el patrón que describen estas fuentes, aunque ningún reportaje trate específicamente de macOS. Las cifras de Common Sense Media indican que la mayoría de los adolescentes ya ha probado un compañero de IA y que una parte lo trata como algo más que una herramienta [4]. La preocupación medible, el daño a la salud mental y la dependencia emocional que señalan Reuters y NewsNation, es distinta de la inquietud más especulativa sobre la trayectoria de la IA que recoge CNN; no deben tratarse como un mismo hallazgo [1] [3] [4].
La distinción importa para saber sobre qué puede actuar realmente un padre o una madre. Ningún ajuste de un Mac doméstico responde a una inquietud general sobre el rumbo de la IA como tecnología. En cambio, un chatbot con el que un adolescente habla hoy, en una app ya instalada en el Mac de casa, es algo que se puede mirar, comentar y, si hace falta, restringir; por eso las recomendaciones siguientes se centran en esa parte de la historia [1].
Recomendaciones
- Dé al menor su propia cuenta de usuario estándar de macOS, sin privilegios de administrador, para que los límites que se configuren se le apliquen a él y no a una sesión compartida.
- Use Tiempo de uso (Ajustes del Sistema › Tiempo de uso) para fijar límites de apps y límites de comunicación, y compruebe la clasificación por edades de una app antes de instalarla.
- Pregunte directamente qué apps de chatbot o de «compañía» usa el menor; el Youth AI Safety Institute ha calificado las apps sociales de compañía con IA como un riesgo inaceptable para menores.
- Trate el apego de un adolescente a un chatbot como tema de una conversación tranquila y directa y no como motivo de castigo, siguiendo el patrón que los investigadores señalaron en el caso Setzer.
- Tenga en cuenta que ningún filtro de contenido lee lo que se dice dentro de una conversación, así que la supervisión debe incluir hablar con el menor y no solo bloquear apps.
Relevancia para FireAI
FireAI es un firewall de red para Mac, no un monitor de chats. El control parental bloquea categorías enteras de sitios y apps por destino de red, para todas las apps y navegadores del Mac. El preajuste de un clic Child Safety First activa los escudos de contenido para adultos, apuestas, drogas y juegos y limita el Mac a Safari only, y las reglas por app permiten decidir, app por app, qué puede conectarse a internet.
Lo que no hace es importante aquí: si una app de chatbot no figura en ninguna lista de bloqueo y se le permite conectarse, FireAI no puede leer ni juzgar el contenido de la conversación que tiene lugar en ella. No sabe si un chat con IA es sano o adecuado para la edad, no detecta patrones de captación ni de dependencia emocional en lo que se dice y no es un moderador de contenidos ni una herramienta de salud mental. Decide qué puede conectarse a internet; no ve lo que se escribe una vez permitida la conexión.
Limitaciones
Las fuentes describen dos preocupaciones distintas que los propios reportajes no mezclan: el daño medible del uso de compañeros de IA, del que informan Reuters y NewsNation, y una inquietud más amplia y especulativa sobre la trayectoria social de la IA, de la que informa CNN [1] [3] [4]. Ningún reportaje indica qué apps de compañía con IA ha evaluado el Youth AI Safety Institute ni describe en detalle su metodología. Tampoco consta que ninguna empresa de IA ni ningún regulador haya adoptado pruebas de seguridad del tipo de las pruebas de choque que propone Siegel, ni en qué plazo podría aplicarse una norma así a productos que ya están en el mercado.
Los reportajes tampoco dicen cuántos de los adolescentes de la encuesta de Common Sense Media usaban un Mac, un iPhone u otro dispositivo, de modo que la relevancia para los hogares que aquí se extrae se infiere de lo extendido que está el uso de compañeros de IA entre los adolescentes estadounidenses en general, no de datos por dispositivo de ninguna de las cuatro fuentes.
Lea más sobre el control parental de FireAI o pruebe FireAI, de HisnLabs gratis durante 17 días.