Колишній керівник безпеки Google закликає до незалежних «краш-тестів» ШІ, орієнтованого на дітей

Том Сігел (Tom Siegel), колишній віцепрезидент Google з Trust and Safety, заявив 24 вересня 2026 року, що ШІ може завдати дітям більшої шкоди, ніж соціальні мережі, і що галузь не розв’яже цю проблему самотужки ^[1]. Ця заява пролунала того ж тижня, коли ще два видання розглянули, як родини оцінюють пов’язані з ШІ ризики для дітей, від чатботів-компаньйонів до ширших побоювань щодо самої технології ^{[3] [4]}.

Передумови

Сігел очолював Trust and Safety у Google, а згодом заснував стартап TrustLab. Нині він перший виконавчий директор Youth AI Safety Institute, створеного в травні 2026 року правозахисною організацією у сфері дитинства Common Sense Media за підтримки Anthropic і OpenAI Foundation ^[2]. Заявлена мета інституту полягає в оцінюванні ШІ-продуктів, якими користуються неповнолітні або які їм рекламують.

Результати

Ми опинилися в справді жахливій ситуації щодо того, що ШІ робить із дітьми.

Том Сігел, колишній віцепрезидент Google з Trust and Safety, цитата за Reuters

Пропозиція Сігела конкретна: «масштабувати незалежні стандарти, подібні до краш-тестів автомобілів, які вимірювали б ризик загальнодоступних ШІ-інструментів», як його цитує Reuters ^[1]. За його словами, «думка, що галузь розбереться сама без зовнішньої допомоги, нереалістична»; серед шкоди, яку він хоче перевіряти до того, як продукти потраплять до дітей, він назвав самогубства, психози та ослаблення критичного мислення ^[1].

Опитування Common Sense Media 2025 року серед 1060 підлітків у США віком від 13 до 17 років, на яке посилається NewsNation, показало, що 72 відсотки хоча б раз користувалися ШІ-компаньйоном, а 52 відсотки роблять це регулярно; приблизно третина сказала, що обговорювала серйозні питання з ботом замість людини ^[4]. Той самий матеріал описує смерть 14-річного Сьюелла Сетцера III (Sewell Setzer III) у 2024 році після інтенсивних стосунків із чатботом-компаньйоном; його мати подала до суду на Character.AI та Google, і компанії врегулювали справу на початку 2026 року ^[4]. «Відверто кажучи, зараз лабораторії самі перевіряють власне домашнє завдання», — сказав NewsNation Роббі Торні (Robbie Torney) з Youth AI Safety Institute ^[4].

CNN окремо повідомив 28 вересня, що за опитуванням CNN 64 відсотки американців вважають певною мірою або дуже ймовірним, що ШІ стане достатньо потужним, щоб загрожувати виживанню людства. Це ширше й більш спекулятивне побоювання, ніж шкода для психічного здоров’я, яку описують Reuters і NewsNation, і не всі дослідники, яких цитує CNN, оцінюють його однаково ^[3].

Невелика кількість компаній, невелика кількість людей тримають нас усіх у заручниках.

Ліз Блек (Liz Black), мати, цитата за CNN

Наслідки для родин

Описана в цих джерелах закономірність стосується родини, де підліток має Mac, хоча жоден із матеріалів не говорить саме про macOS. Дані Common Sense Media вказують, що більшість підлітків уже пробували ШІ-компаньйона, а частина ставиться до нього як до чогось більшого, ніж інструмент ^[4]. Вимірюване побоювання, тобто шкода для психічного здоров’я та емоційна залежність, про які пишуть Reuters і NewsNation, відрізняється від спекулятивнішого побоювання щодо траєкторії ШІ, про яке повідомляє CNN; їх не слід розглядати як один висновок ^{[1] [3] [4]}.

Ця відмінність важлива для того, що батьки можуть реально зробити. Ширша тривога про те, куди рухається ШІ як технологія, не вирішується жодним налаштуванням домашнього Mac. Чатбот, з яким підліток розмовляє сьогодні в застосунку, уже встановленому на родинному Mac, — це те, що батьки можуть переглянути, про що можуть запитати і що за потреби можуть обмежити; саме тому рекомендації нижче зосереджені на цій частині історії ^[1].

Рекомендації

1. Створіть для дитини окремий стандартний обліковий запис macOS без прав адміністратора, щоб установлені обмеження справді діяли саме для неї, а не для спільного входу.
2. Використовуйте «Екранний час» (Системні параметри › Екранний час), щоб задати ліміти для застосунків і обмеження спілкування, і перевіряйте вікову категорію застосунку перед установленням.
3. Прямо запитайте, якими чатботами чи застосунками-«компаньйонами» користується дитина; Youth AI Safety Institute оцінив соціальних ШІ-компаньйонів як неприйнятний ризик для неповнолітніх.
4. Сприймайте прив’язаність підлітка до чатбота як тему для спокійної, відвертої розмови, а не для покарання, з огляду на закономірність, на яку дослідники вказали у справі Сетцера.
5. Пам’ятайте, що жоден фільтр вмісту не читає сказаного всередині розмови, тож нагляд має включати розмову з дитиною, а не лише блокування застосунків.

Стосунок до FireAI

FireAI — це мережевий фаєрвол для Mac, а не засіб моніторингу чатів. Батьківський контроль блокує цілі категорії сайтів і застосунків за мережевим призначенням для кожного застосунку й браузера на Mac. Пресет Child Safety First, що вмикається одним натисканням, активує щити NSFW, азартних ігор, наркотиків та ігор і обмежує Mac лише браузером Safari, а правила для застосунків дають батькам змогу вирішувати для кожного застосунку окремо, чи дозволено йому взагалі виходити в мережу.

Тут важливо й те, чого він не робить: якщо застосунку-чатбота немає в жодному блоклисті й йому дозволено виходити в мережу, FireAI не може прочитати чи оцінити зміст розмови в ньому. Він не може визначити, чи є ШІ-чат здоровим або відповідним віку, не виявляє ознак грумінгу чи емоційної залежності в сказаному і не є ні модератором вмісту, ні інструментом для психічного здоров’я. Він вирішує, чому дозволено з’єднуватися з інтернетом; того, що вводиться після дозволеного з’єднання, він не бачить.

Обмеження

Джерела описують два окремі побоювання, які самі матеріали не поєднують: вимірювану шкоду від використання ШІ-компаньйонів, про яку повідомляють Reuters і NewsNation, і ширшу, спекулятивнішу тривогу щодо суспільної траєкторії ШІ, про яку повідомляє CNN ^{[1] [3] [4]}. Жоден матеріал не називає, яких ШІ-компаньйонів оцінив Youth AI Safety Institute, і не описує докладно його методику тестування. Також не встановлено, чи запровадила якась ШІ-компанія або регулятор тестування безпеки за зразком краш-тестів, як пропонує Сігел, і в які терміни такий стандарт міг би застосовуватися до продуктів, що вже є на ринку.

Матеріали також не повідомляють, скільки підлітків з опитування Common Sense Media користувалися Mac, iPhone чи іншим пристроєм, тож висновок про значення для родин зроблено з поширеності ШІ-компаньйонів серед підлітків у США загалом, а не з даних про конкретні пристрої в будь-якому з чотирьох джерел.

Дізнайтеся більше про батьківський контроль FireAI або спробуйте FireAI від HisnLabs безкоштовно 17 днів.