Билл Гейтс: одного лишь «аварийного выключателя» недостаточно, чтобы сделать ИИ безопасным

Билл Гейтс заявил, что обязательный по закону «аварийный выключатель» (kill switch) сам по себе не сделает искусственный интеллект безопасным, в интервью, вышедшем в эфир программы Meet the Press на NBC 27 сентября 2026 года ^[2]. Это заявление прозвучало через несколько дней после того, как Сенат США едва не принял закон, обязывающий ИИ-компании встраивать такой механизм в свои самые мощные системы ^[1].

Предыстория

За десять дней до интервью Гейтса сенатор Джон Нили Кеннеди (республиканец от Луизианы) попытался провести законопроект, обязывающий ИИ-компании встраивать механизм экстренного отключения в свои самые мощные системы и наделяющий операторов внутри этих компаний полномочиями отключать модель, признанную опасной. Сенатор Рэнд Пол (республиканец от Кентукки) заблокировал эту просьбу в зале Сената, заявив, что регулирование технологии, которую законодатели ещё не понимают, «грозит убить инновации и отбросить их на десятилетия назад», и предложил вместо этого создать комиссию для изучения вопроса; Кеннеди отклонил эту поправку, и законопроект не продвинулся ^[3]. Отдельный законопроект Палаты представителей H.R. 9917, внесённый конгрессменами Тедом Лью и Натаниэлем Мораном, позволил бы Министерству внутренней безопасности предписывать замедление или отключение после серьёзного инцидента, связанного с ИИ, с ежедневными штрафами для компаний, не выполняющих требования ^[1].

Результаты

Аварийный выключатель — это, в общем, довольно странная вещь. Одного аварийного выключателя недостаточно.

Билл Гейтс в программе Meet the Press на NBC

Гейтс сказал ведущей Кристен Уэлкер, что сегодняшние ИИ-модели «ещё не достигли того уровня, когда они самостоятельно захватывают компьютеры и... их нельзя отключить», и что спор о выключателе «показывает, насколько далеки от технической стороны различные люди» в понимании реального риска ^[2]. Опасность, которую он описал, — это использование ИИ людьми для кибератак или биотерроризма, а не самостоятельные действия модели, и кнопка включения-выключения эту опасность не устраняет ^[2]. Его альтернатива — закреплённые законом мониторинг и ведение записей внутри ИИ-компаний, чтобы регуляторы видели, для чего используется мощная модель. «Никто не считает саморегулирование достаточным», — сказал он, добавив, что стандарт должны задать Соединённые Штаты, поскольку другие страны, включая Китай, скорее всего, последуют за ними ^[1].

Выводы для пользователей Mac

Это спор о том, что крупнейшие ИИ-лаборатории должны встраивать в свои самые мощные модели и как Вашингтон их регулирует, а не о чём-либо, что работает на персональном компьютере. Ничто в этой дискуссии не меняет того, что приложение на Mac может делать сегодня. Это предварительный взгляд на то, что, скорее всего, будет означать «безопасность ИИ» в законе, когда он появится: обязательные мониторинг и журналирование на уровне компаний, определяемые законодателями и регуляторами, а не выключатель, которого отдельный пользователь когда-либо коснётся ^{[1] [2]}.

Рекомендации

1. Воспринимайте это как контекст, а не как список действий: ни один законопроект Сената, принятый или отклонённый, не меняет ничего, что нужно настраивать на личном устройстве.
2. Если вы ежедневно пользуетесь ИИ-инструментами, выясните, что и где каждый из них записывает: мониторинг на уровне компаний — именно то, что Гейтс просит Конгресс потребовать от самих лабораторий.
3. Обратите внимание, какие приложения на Mac уже ведут себя как небольшие ИИ-агенты — бронируют, заполняют формы, читают файлы, — и выдавайте им только тот доступ, который им нужен.
4. Тем, кто следит за развитием событий, стоит наблюдать за H.R. 9917 и возможными последующими шагами Сената, а не за отдельным интервью: именно оттуда появится реальная норма.

Какое отношение это имеет к FireAI

С выражением «аварийный выключатель» стоит быть точными, потому что он есть и у FireAI, и это не тот механизм, который обсуждают Гейтс и Конгресс. Аварийный выключатель из сенатской дискуссии встроен в собственную инфраструктуру ИИ-лаборатории: это способ остановить конкретную передовую модель на уровне компании, возможно по предписанию регулятора. Это вопрос управления и инженерии для организаций, которые обучают и эксплуатируют крупные ИИ-модели, а не функция персонального компьютера.

Аварийный выключатель FireAI — вещь меньшая и более буквальная: кнопка в строке меню, которая отключает один Mac от интернета. При включении он отклоняет новые соединения с внешним миром; устройства, уже обменивающиеся данными в той же сети, например принтер или общий диск, продолжают работать. Он не закрывает уже открытые соединения и перестаёт действовать, пока защита приостановлена. Он не наблюдает, не записывает и не останавливает то, что делает какая-либо ИИ-модель где бы то ни было — на Mac или в дата-центре лаборатории, — и не имеет отношения к полномочиям на отключение, которые законопроект Кеннеди или H.R. 9917 передали бы компаниям или регуляторам.

Ближе всего к повседневной версии «мониторинга» в FireAI — режимы безопасности и запросы при соединении: они показывают, какие приложения на Mac куда подключаются, и позволяют решать самому пользователю, а не компании или государству. Это более скромная и более локальная задача, чем та, которую описывает Гейтс, и это не механизм безопасности ИИ в его понимании.

Ограничения

Ни в одном из источников не сказано, какие конкретно требования к мониторингу и ведению записей имеет в виду Гейтс помимо общей идеи и как такая норма применялась бы к компаниям вне юрисдикции США. Politico и Hoodline описывают борьбу в Сенате с разных сторон и не полностью совпадают в процедурных деталях, и ни один источник не подтверждает, назначены ли слушания по H.R. 9917 и есть ли у него реальный путь к голосованию ^{[1] [3]}.

Попробуйте FireAI от HisnLabs бесплатно 17 дней.