Білл Гейтс заявив, що обов’язковий за законом «аварійний вимикач» (kill switch) сам по собі не зробить штучний інтелект безпечним; про це він сказав в інтерв’ю програмі Meet the Press на NBC, що вийшло в ефір 27 вересня 2026 року [2]. Ця заява пролунала через кілька днів після того, як Сенат США мало не ухвалив закон, що зобов’язував би компанії у сфері ШІ вбудовувати такий механізм у свої найпотужніші системи [1].
Передумови
За десять днів до інтерв’ю Гейтса сенатор Джон Ніллі Кеннеді (John Neely Kennedy, республіканець від Луїзіани) спробував провести законопроєкт, який зобов’язував би компанії у сфері ШІ вбудовувати механізм аварійного вимкнення у свої найпотужніші системи й надавав би операторам усередині цих компаній повноваження вимкнути модель, визнану небезпечною. Сенатор Ренд Пол (Rand Paul, республіканець від Кентуккі) заблокував цей запит у залі Сенату, стверджуючи, що регулювання технології, якої законодавці ще не розуміють, «загрожує вбити інновації й відкинути їх на десятиліття назад», і запропонував натомість дослідницький комітет; Кеннеді відхилив цю поправку, і законопроєкт далі не просунувся [3]. Окремий законопроєкт Палати представників, H.R. 9917 від конгресменів Теда Лью (Ted Lieu) і Натаніеля Морана (Nathaniel Moran), дозволив би Міністерству внутрішньої безпеки наказувати сповільнення або вимкнення після серйозного інциденту, пов’язаного з ШІ, зі щоденними штрафами для компаній, що не виконують вимог [1].
Результати
Аварійний вимикач — це якась дивна річ. Мати аварійний вимикач недостатньо.
Білл Гейтс у програмі Meet the Press на NBC
Гейтс сказав ведучій Крістен Велкер (Kristen Welker), що сучасні моделі ШІ «ще не досягли того рівня, коли вони автономно захоплюють комп’ютери і... їх неможливо вимкнути», і додав, що дискусія про вимикач «показує, наскільки нетехнічними є різні люди» щодо реального ризику [2]. Небезпека, яку він описав, полягає в зловживанні ШІ з боку людей для кібератак чи біотероризму, а не в самостійних діях моделі, і кнопка ввімкнення-вимкнення цього не вирішує [2]. Його альтернатива — обов’язковий за законом моніторинг і ведення записів усередині компаній у сфері ШІ, щоб регулятори бачили, для чого використовується потужна модель. «Ніхто не вважає, що саморегулювання достатньо», — сказав він, додавши, що стандарт мають задати Сполучені Штати, бо інші країни, зокрема Китай, імовірно, підуть за ними [1].
Наслідки для користувачів Mac
Це суперечка про те, що найбільші лабораторії ШІ мають вбудовувати у свої найпотужніші моделі і як Вашингтон їх регулює, а не про щось, що працює на персональному комп’ютері. Ніщо в цій дискусії не змінює того, що застосунок на Mac може робити сьогодні. Вона лише показує, що, імовірно, означатиме «безпека ШІ» в законі, коли такий закон з’явиться: обов’язковий моніторинг і журналювання на рівні компаній, визначені законодавцями й регуляторами, а не вимикач, якого окремий користувач коли-небудь торкнеться [1] [2].
Рекомендації
- Сприймайте це як контекст, а не як перелік завдань: жоден законопроєкт Сенату, ухвалений чи провалений, не змінює нічого, що потрібно налаштовувати на персональному пристрої.
- Тим, хто щодня користується ШІ-інструментами, варто з’ясувати, що кожен із них журналює і де, адже саме моніторинг на рівні компаній Гейтс просить Конгрес вимагати від самих лабораторій.
- Зверніть увагу, які застосунки на Mac уже поводяться як невеликі ШІ-агенти, тобто щось бронюють, заповнюють форми, читають файли, і надавайте їм лише той доступ, який їм потрібен.
- Тим, хто стежить за розвитком подій, варто спостерігати за H.R. 9917 і можливими подальшими кроками Сенату, а не за цим окремим інтерв’ю, адже саме звідти з’явилося б реальне правило.
Стосунок до FireAI
Вираз «аварійний вимикач» варто вживати точно, бо у FireAI він теж є, і це не той механізм, який обговорюють Гейтс і Конгрес. Аварійний вимикач у сенатській дискусії вбудовано в інфраструктуру самої лабораторії ШІ: це спосіб зупинити конкретну передову модель на рівні компанії, можливо, за наказом регулятора. Це питання управління та інженерії для організацій, які навчають і запускають великі моделі ШІ, а не функція персонального комп’ютера.
Аварійний вимикач у FireAI — річ менша й буквальніша: кнопка в рядку меню, що від’єднує один Mac від інтернету. Коли його ввімкнено, нові з’єднання із зовнішнім світом відхиляються; пристрої, які вже обмінюються даними в тій самій мережі, як-от принтер чи спільний диск, продовжують працювати. Він не закриває вже відкритих з’єднань і перестає діяти, поки Захист призупинено. Він не стежить, не журналює й не зупиняє того, що робить будь-яка модель ШІ, ні на Mac, ні в дата-центрі лабораторії, і не має жодного стосунку до повноважень на вимкнення, які законопроєкт Кеннеді чи H.R. 9917 надали б компаніям або регуляторам.
Найближче до повсякденної версії «моніторингу» у FireAI — це режими безпеки і запити на з’єднання: вони показують, які застосунки на Mac куди з’єднуються, і дають змогу вирішувати людині, яка ним користується, а не компанії чи урядові замість неї. Це менше й локальніше завдання, ніж те, яке описує Гейтс, і це не механізм безпеки ШІ в його розумінні.
Обмеження
Жодне з джерел не уточнює, які саме вимоги до моніторингу й ведення записів має на увазі Гейтс, окрім загальної ідеї, і як таке правило застосовувалося б до компаній поза юрисдикцією США. Politico і Hoodline описують боротьбу в Сенаті з різних боків і не повністю збігаються в процедурних деталях, і жодне джерело не підтверджує, чи призначено слухання щодо H.R. 9917 або чи є в нього реальний шлях до голосування [1] [3].
Спробуйте FireAI від HisnLabs безкоштовно 17 днів.