# Колишній керівник безпеки Google закликає до незалежних «краш-тестів» ШІ, орієнтованого на дітей

> Колишній керівник Trust and Safety у Google вважає, що ШІ може зашкодити дітям більше, ніж соцмережі, і закликає до незалежних тестів продуктів для дітей.

FireAI Security & Research Team (HisnLabs) · Published 2026-09-28
Canonical: https://hisnlabs.com/uk/news/ai-chatbots-children-safety-crash-tests

Том Сігел (Tom Siegel), колишній віцепрезидент Google з Trust and Safety, заявив 24 вересня 2026 року, що ШІ може завдати дітям більшої шкоди, ніж соціальні мережі, і що галузь не розв’яже цю проблему самотужки [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm). Ця заява пролунала того ж тижня, коли ще два видання розглянули, як родини оцінюють пов’язані з ШІ ризики для дітей, від чатботів-компаньйонів до ширших побоювань щодо самої технології [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/) [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html).

## Передумови

Сігел очолював Trust and Safety у Google, а згодом заснував стартап TrustLab. Нині він перший виконавчий директор Youth AI Safety Institute, створеного в травні 2026 року правозахисною організацією у сфері дитинства Common Sense Media за підтримки Anthropic і OpenAI Foundation [[2]](https://www.cyprus-mail.com/2026/09/24/google-safety-pioneer-urges-ai-slowdown-over-risks-to-children). Заявлена мета інституту полягає в оцінюванні ШІ-продуктів, якими користуються неповнолітні або які їм рекламують.

## Результати

> Ми опинилися в справді жахливій ситуації щодо того, що ШІ робить із дітьми.
>
> — Том Сігел, колишній віцепрезидент Google з Trust and Safety, цитата за Reuters

Пропозиція Сігела конкретна: «масштабувати незалежні стандарти, подібні до краш-тестів автомобілів, які вимірювали б ризик загальнодоступних ШІ-інструментів», як його цитує Reuters [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm). За його словами, «думка, що галузь розбереться сама без зовнішньої допомоги, нереалістична»; серед шкоди, яку він хоче перевіряти до того, як продукти потраплять до дітей, він назвав самогубства, психози та ослаблення критичного мислення [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm).

Опитування Common Sense Media 2025 року серед 1060 підлітків у США віком від 13 до 17 років, на яке посилається NewsNation, показало, що 72 відсотки хоча б раз користувалися ШІ-компаньйоном, а 52 відсотки роблять це регулярно; приблизно третина сказала, що обговорювала серйозні питання з ботом замість людини [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Той самий матеріал описує смерть 14-річного Сьюелла Сетцера III (Sewell Setzer III) у 2024 році після інтенсивних стосунків із чатботом-компаньйоном; його мати подала до суду на Character.AI та Google, і компанії врегулювали справу на початку 2026 року [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). «Відверто кажучи, зараз лабораторії самі перевіряють власне домашнє завдання», — сказав NewsNation Роббі Торні (Robbie Torney) з Youth AI Safety Institute [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html).

CNN окремо повідомив 28 вересня, що за опитуванням CNN 64 відсотки американців вважають певною мірою або дуже ймовірним, що ШІ стане достатньо потужним, щоб загрожувати виживанню людства. Це ширше й більш спекулятивне побоювання, ніж шкода для психічного здоров’я, яку описують Reuters і NewsNation, і не всі дослідники, яких цитує CNN, оцінюють його однаково [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/).

> Невелика кількість компаній, невелика кількість людей тримають нас усіх у заручниках.
>
> — Ліз Блек (Liz Black), мати, цитата за CNN

## Наслідки для родин

Описана в цих джерелах закономірність стосується родини, де підліток має Mac, хоча жоден із матеріалів не говорить саме про macOS. Дані Common Sense Media вказують, що більшість підлітків уже пробували ШІ-компаньйона, а частина ставиться до нього як до чогось більшого, ніж інструмент [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Вимірюване побоювання, тобто шкода для психічного здоров’я та емоційна залежність, про які пишуть Reuters і NewsNation, відрізняється від спекулятивнішого побоювання щодо траєкторії ШІ, про яке повідомляє CNN; їх не слід розглядати як один висновок [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm) [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/) [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html).

Ця відмінність важлива для того, що батьки можуть реально зробити. Ширша тривога про те, куди рухається ШІ як технологія, не вирішується жодним налаштуванням домашнього Mac. Чатбот, з яким підліток розмовляє сьогодні в застосунку, уже встановленому на родинному Mac, — це те, що батьки можуть переглянути, про що можуть запитати і що за потреби можуть обмежити; саме тому рекомендації нижче зосереджені на цій частині історії [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm).

> Подивіться, які застосунки на Mac дитини вже з’єднуються зі службами ШІ-чатботів. Спробуйте FireAI безкоштовно 17 днів і перегляньте разом мапу світу. [Download FireAI for Mac](https://hisnlabs.com/en/download)

## Рекомендації

1. Створіть для дитини окремий стандартний обліковий запис macOS без прав адміністратора, щоб установлені обмеження справді діяли саме для неї, а не для спільного входу.
2. Використовуйте «Екранний час» (Системні параметри › Екранний час), щоб задати ліміти для застосунків і обмеження спілкування, і перевіряйте вікову категорію застосунку перед установленням.
3. Прямо запитайте, якими чатботами чи застосунками-«компаньйонами» користується дитина; Youth AI Safety Institute оцінив соціальних ШІ-компаньйонів як неприйнятний ризик для неповнолітніх.
4. Сприймайте прив’язаність підлітка до чатбота як тему для спокійної, відвертої розмови, а не для покарання, з огляду на закономірність, на яку дослідники вказали у справі Сетцера.
5. Пам’ятайте, що жоден фільтр вмісту не читає сказаного всередині розмови, тож нагляд має включати розмову з дитиною, а не лише блокування застосунків.

## Стосунок до FireAI

FireAI — це мережевий фаєрвол для Mac, а не засіб моніторингу чатів. [Батьківський контроль](https://hisnlabs.com/uk/docs/parental-controls) блокує цілі категорії сайтів і застосунків за мережевим призначенням для кожного застосунку й браузера на Mac. Пресет [Child Safety First](https://hisnlabs.com/uk/docs/set-up-child-safety-first), що вмикається одним натисканням, активує щити NSFW, азартних ігор, наркотиків та ігор і обмежує Mac лише браузером Safari, а [правила для застосунків](https://hisnlabs.com/uk/docs/per-app-rules) дають батькам змогу вирішувати для кожного застосунку окремо, чи дозволено йому взагалі виходити в мережу.

Тут важливо й те, чого він не робить: якщо застосунку-чатбота немає в жодному блоклисті й йому дозволено виходити в мережу, FireAI не може прочитати чи оцінити зміст розмови в ньому. Він не може визначити, чи є ШІ-чат здоровим або відповідним віку, не виявляє ознак грумінгу чи емоційної залежності в сказаному і не є ні модератором вмісту, ні інструментом для психічного здоров’я. Він вирішує, чому дозволено з’єднуватися з інтернетом; того, що вводиться після дозволеного з’єднання, він не бачить.

> Увімкніть Child Safety First і спробуйте FireAI безкоштовно 17 днів як відправну точку для родинного Mac. [Download FireAI for Mac](https://hisnlabs.com/en/download)

## Обмеження

Джерела описують два окремі побоювання, які самі матеріали не поєднують: вимірювану шкоду від використання ШІ-компаньйонів, про яку повідомляють Reuters і NewsNation, і ширшу, спекулятивнішу тривогу щодо суспільної траєкторії ШІ, про яку повідомляє CNN [[1]](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm) [[3]](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/) [[4]](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html). Жоден матеріал не називає, яких ШІ-компаньйонів оцінив Youth AI Safety Institute, і не описує докладно його методику тестування. Також не встановлено, чи запровадила якась ШІ-компанія або регулятор тестування безпеки за зразком краш-тестів, як пропонує Сігел, і в які терміни такий стандарт міг би застосовуватися до продуктів, що вже є на ринку.

Матеріали також не повідомляють, скільки підлітків з опитування Common Sense Media користувалися Mac, iPhone чи іншим пристроєм, тож висновок про значення для родин зроблено з поширеності ШІ-компаньйонів серед підлітків у США загалом, а не з даних про конкретні пристрої в будь-якому з чотирьох джерел.

Дізнайтеся більше про батьківський контроль FireAI або спробуйте [FireAI від HisnLabs](https://hisnlabs.com/uk/download) безкоштовно 17 днів.

## Sources

- [Insurance Journal (Reuters, Kenrick Cai), 24 Sep 2026: Ex-Google Safety Chief Warns AI Could Harm Children More Than Social Media](https://www.insurancejournal.com/news/national/2026/09/24/886633.htm)
- [Cyprus Mail (Reuters), 24 Sep 2026: Google safety pioneer urges AI slowdown over risks to children](https://www.cyprus-mail.com/2026/09/24/google-safety-pioneer-urges-ai-slowdown-over-risks-to-children)
- [ABC 17 News (CNN, Brittany Shammas), 28 Sep 2026: Parents confront a new fear: Could AI end humanity before their kids grow up?](https://abc17news.com/news/national-world/cnn-national/2026/09/28/parents-confront-a-new-fear-could-ai-end-humanity-before-their-kids-grow-up/)
- [Yahoo News (NewsNation, Hena Doba), 27 Sep 2026: AI chatbots face new safety test as teens turn to bots for companionship](https://www.yahoo.com/news/us/articles/ai-chatbots-face-safety-test-021904739.html)