Tom Siegel, ancien vice-président Trust and Safety de Google, a déclaré le 24 septembre 2026 que l'IA pourrait se révéler plus néfaste pour les enfants que les réseaux sociaux, et que le secteur ne réglera pas le problème de lui-même [1]. Cette déclaration est intervenue la même semaine que deux autres médias examinaient la façon dont les familles évaluent les risques liés à l'IA pour les enfants, des chatbots compagnons aux craintes plus générales concernant la technologie elle-même [3] [4].
Contexte
Tom Siegel a dirigé l'équipe Trust and Safety de Google avant de fonder la start-up TrustLab. Il est aujourd'hui le premier directeur exécutif du Youth AI Safety Institute, lancé en mai 2026 par l'association de défense des enfants Common Sense Media avec le soutien d'Anthropic et de l'OpenAI Foundation [2]. L'objectif déclaré de l'Institut est d'évaluer les produits d'IA utilisés par des mineurs ou commercialisés à leur intention.
Constatations
Nous nous trouvons dans une situation vraiment terrible quant à ce que l'IA fait aux enfants.
Tom Siegel, ancien vice-président Trust and Safety de Google, cité par Reuters
La proposition de Tom Siegel est précise : « développer à grande échelle des normes indépendantes comparables aux crash-tests automobiles, qui mesureraient le risque des outils d'IA accessibles au public », selon les propos rapportés par Reuters [1]. Il a estimé que « l'idée que le secteur trouvera la solution seul, sans aide extérieure, est irréaliste », en citant le suicide, la psychose et l'affaiblissement de l'esprit critique parmi les préjudices qu'il souhaite voir testés avant que les produits n'atteignent les enfants [1].
Une enquête de Common Sense Media menée en 2025 auprès de 1 060 adolescents américains de 13 à 17 ans, citée par NewsNation, montre que 72 pour cent d'entre eux avaient utilisé un compagnon IA au moins une fois et que 52 pour cent en utilisent un régulièrement ; environ un tiers déclarait avoir abordé des sujets sérieux avec un bot plutôt qu'avec une personne [4]. Le même reportage revient sur la mort, en 2024, de Sewell Setzer III, 14 ans, après une relation intense avec un chatbot compagnon ; sa mère a poursuivi Character.AI et Google, et les entreprises ont conclu un accord plus tôt en 2026 [4]. « Franchement, pour l'instant, les laboratoires corrigent leurs propres copies », a déclaré Robbie Torney, du Youth AI Safety Institute, à NewsNation [4].
CNN a rapporté séparément, le 28 septembre, qu'un sondage CNN indique que 64 pour cent des Américains jugent assez ou très probable que l'IA devienne suffisamment puissante pour menacer la survie de l'humanité. Il s'agit d'une inquiétude plus large et plus spéculative que les atteintes à la santé mentale décrites par Reuters et NewsNation, et tous les chercheurs cités par CNN ne lui accordent pas le même poids [3].
Un petit nombre d'entreprises, un petit nombre de personnes, nous tiennent tous en otage.
Liz Black, mère de famille, citée par CNN
Conséquences pour les familles
Un foyer où un adolescent dispose d'un Mac est concerné par la tendance décrite par ces sources, même si aucun de ces reportages ne porte spécifiquement sur macOS. Les chiffres de Common Sense Media indiquent que la plupart des adolescents ont déjà essayé un compagnon IA, et qu'une partie d'entre eux le considèrent comme plus qu'un outil [4]. L'inquiétude mesurable, à savoir les atteintes à la santé mentale et la dépendance affective rapportées par Reuters et NewsNation, est distincte de l'inquiétude plus spéculative sur la trajectoire de l'IA rapportée par CNN ; les deux ne doivent pas être traitées comme un seul et même constat [1] [3] [4].
Cette distinction compte pour ce sur quoi un parent peut réellement agir. Une inquiétude générale sur l'avenir de l'IA en tant que technologie ne relève d'aucun réglage d'un Mac familial. En revanche, un chatbot avec lequel un adolescent discute aujourd'hui, dans une app déjà installée sur le Mac du foyer, est quelque chose qu'un parent peut examiner, aborder avec lui et, si nécessaire, restreindre ; c'est pourquoi les recommandations ci-dessous portent sur cet aspect [1].
Recommandations
- Créez pour l'enfant son propre compte utilisateur macOS standard, sans droits d'administrateur, afin que les limites définies s'appliquent bien à lui et non à une session partagée.
- Utilisez Temps d'écran (Réglages Système › Temps d'écran) pour fixer des limites d'apps et des limites de communication, et vérifiez la classification par âge d'une app avant son installation.
- Demandez directement quelles apps de chatbot ou de « compagnon » l'enfant utilise ; le Youth AI Safety Institute a jugé les apps de compagnons IA sociaux comme un risque inacceptable pour les mineurs.
- Abordez l'attachement d'un adolescent à un chatbot par une conversation calme et directe plutôt que par une punition, conformément à ce que les chercheurs ont souligné dans l'affaire Setzer.
- Gardez à l'esprit qu'aucun filtre de contenu ne lit ce qui se dit dans une conversation : la supervision doit aussi passer par le dialogue avec l'enfant, et pas seulement par le blocage d'apps.
Pertinence pour FireAI
FireAI est un pare-feu réseau pour Mac, pas un outil de surveillance des conversations. Le contrôle parental bloque des catégories entières de sites et d'apps selon leur destination réseau, pour toutes les apps et tous les navigateurs du Mac. Le préréglage en un clic Child Safety First active les boucliers NSFW, Jeux d'argent, Drogues et Jeux vidéo et limite le Mac au seul Safari, et les règles par app permettent à un parent de décider, app par app, ce qui est autorisé en ligne.
Ce qu'il ne fait pas compte ici : si une app de chatbot ne figure sur aucune liste de blocage et reste autorisée en ligne, FireAI n'a aucun moyen de lire ou d'évaluer le contenu de la conversation qui s'y déroule. Il ne peut pas dire si une discussion avec une IA est saine ou adaptée à l'âge, ne peut pas détecter de schémas de pédopiégeage ou de dépendance affective dans les propos échangés, et n'est ni un outil de modération de contenu ni un outil de santé mentale. Il décide de ce qui est autorisé à se connecter à Internet ; il ne voit pas ce qui est saisi une fois la connexion autorisée.
Limites
Les sources décrivent deux préoccupations distinctes que les reportages eux-mêmes ne confondent pas : les préjudices mesurables liés à l'usage de compagnons IA, rapportés par Reuters et NewsNation, et une inquiétude plus large et plus spéculative sur la trajectoire sociétale de l'IA, rapportée par CNN [1] [3] [4]. Aucun de ces reportages ne précise quelles apps de compagnons IA le Youth AI Safety Institute a évaluées, ni ne décrit en détail sa méthodologie de test. Il n'est pas non plus établi qu'une entreprise d'IA ou un régulateur ait adopté des tests de sécurité de type crash-test comme le propose Tom Siegel, ni selon quel calendrier une telle norme pourrait s'appliquer aux produits déjà sur le marché.
Les reportages n'indiquent pas non plus combien d'adolescents de l'enquête de Common Sense Media utilisaient un Mac, un iPhone ou un autre appareil ; la pertinence pour les foyers évoquée ici est donc déduite de la fréquence générale de l'usage des compagnons IA chez les adolescents américains, et non de données propres à un appareil issues de l'une des quatre sources.
Découvrez le contrôle parental de FireAI, ou essayez FireAI, par HisnLabs gratuitement pendant 17 jours.