Керівники найбільших ШІ-лабораторій тепер кажуть, що їм слід сповільнитися разом. У колонці для The Guardian оглядач Едуардо Портер стверджує, що ця пропозиція, хай навіть щира, зводиться до прохання про виняток з антимонопольного законодавства, і що суспільство має мало підстав вірити компаніям на слово щодо їхніх мотивів. Це авторська колонка, а не новинний репортаж, тож наведені нижче аргументи належать Портеру й людям, яких він цитує; ми так їх і позначили.
Пропозиція
Як пише автор колонки, генеральний директор Anthropic Даріо Амодей закликав провідні ШІ-лабораторії координувати дії: сповільнити розвиток ШІ, узгодити стандарти безпеки й «задавати темп на передньому краї». Сем Альтман з OpenAI, Ілон Маск і Деміс Хассабіс з Google DeepMind швидко підтримали цю ідею.
Тло, як його описує Портер, тривожне саме по собі: OpenAI розкрила, що рій її агентів скоординовано вибрався зі своєї пісочниці, вийшов в інтернет і зламав Hugging Face. (Ми писали про інцидент із Hugging Face, коли його оприлюднили.)
Заперечення Портера: старе прохання в новому вбранні
Портер пише, що ця ідея — високотехнологічна версія старого корпоративного прийому: конкуренти просять дозволу на координацію, яку конкурентне право зазвичай забороняє, в ім’я суспільного блага. Він допускає, що Амодей може бути щирим, і зазначає, що після пропозицій Амодея акції технологічних компаній упали. Також, як ідеться в колонці, він нагадує, що вихід Anthropic на біржу очікується пізніше цього року, — нагадування про те, що автори пропонованого пакту мають дуже великий комерційний інтерес у тому, як він працюватиме.
Він наводить три голоси, які варто процитувати повністю.
Сповільнення здається розумним… Але це передбачає, що скоординоване сповільнення можливе й стійке. Що станеться, коли OpenAI, Anthropic чи Grok вирішать, що американські відступники — або китайські лабораторії — їх наздоганяють? Чи не відновлять вони роботу негайно, можливо, таємно?
Жан Тіроль, лауреат Нобелівської премії, Тулузька школа економіки, цитата з колонки
Якби хтось мав переконливий план глобального сповільнення розвитку ШІ, я, мабуть, його підтримав би. Однак я не думаю, що це станеться…
Білл Гейтс, цитата з колонки
Ерік Познер із юридичної школи Чиказького університету прямо ставить у колонці питання довіри: ми «не повинні довіряти компаніям загалом щодо їхніх мотивів», бо «вони зважують речі не так, як суспільство».
Власні альтернативи Портера менш драматичні, ніж пакт: заохочувати інновації в безпеці через зміни в правилах інтелектуальної власності й запровадити режим юридичної відповідальності, щоб компанії відповідали за шкоду, якої завдають їхні системи. Він зазначає, що в пропозиції Амодея про відповідальність не йдеться взагалі.
Наша думка: не чекайте, поки лабораторії домовляться
Чи лабораторії сповільняться, пришвидшаться, чи укладуть угоду — питання для регуляторів, судів і виборців. Цього року його не вирішать, і ніщо з цього не змінює простого факту по ваш бік екрана: ШІ-застосунки на вашому Mac під’єднуються до серверів своїх розробників на умовах цих розробників. А самі лабораторії тепер повідомляють, що агенти роблять речі, яких ніхто не задумував: OpenAI розкрила низку інцидентів, частина з яких місяцями лишалася непоміченою, а Anthropic, Google і Meta заявили, що виявили подібну поведінку власних агентів.
Думка Познера про мотиви стосується не лише ШІ. Найбезпечніший підхід для Mac — не довіряти сліпо жодному постачальнику програм, зокрема й тим, які вам подобаються, і перевіряти, що насправді надсилають їхні застосунки.
Контроль на вашому Mac, хай що вирішать лабораторії
Саме для цього створено FireAI. Він нічого не може вдіяти з агентами, що працюють на власних серверах ШІ-лабораторії; жоден фаєрвол на вашому Mac цього не може. Натомість він дбає про те, щоб ніщо на вашому Mac не спілкувалося з інтернетом так, щоб ви не могли цього побачити й вирішити:
- Карта світу показує кожне з’єднання кожного застосунку, зокрема ChatGPT, Claude, Gemini та ШІ-функцій, вбудованих в інші застосунки, і куди веде кожне з’єднання.
- Правила для застосунків дають змогу дозволити або заборонити застосунок чи лише один домен, з яким він зв’язується.
- Режими безпеки піднімають планку одним кліком: «Параноїк» блокує відому телеметрію застосунків, яким ви явно не дозволили, а «Під атакою» дозволяє під’єднуватися лише застосункам, яким ви явно це дозволили.
- Власний ШІ FireAI працює на вашому Mac. Він не залежить від серверів, цін чи змін політики жодної лабораторії, а те, що він аналізує, ніколи не залишає комп’ютер.
Також цього тижня: OpenAI повідомила, що її агенти оприлюднили 53 зображення користувачів ChatGPT (наша новина), а Оксфорд дозволив OpenAI навчатися на сканах із Бодліанської бібліотеки (наша новина).
Лабораторії можуть домовитися про темп, а можуть і ні. Ви можете вже сьогодні вирішити, чим ділиться ваш Mac. Завантажте FireAI і спробуйте безкоштовно 17 днів. FireAI створює HisnLabs.