Главы крупнейших ИИ-лабораторий теперь говорят, что им следует замедлиться вместе. В колонке для The Guardian колумнист Эдуардо Портер утверждает, что это предложение, каким бы искренним оно ни было, по сути является просьбой об исключении из антимонопольного права, и что у общества мало причин верить компаниям на слово насчёт их мотивов. Это авторская колонка, а не новостной репортаж, поэтому приведённые ниже аргументы принадлежат Портеру и тем, кого он цитирует; мы так их и отмечаем.
Предложение
Согласно колонке, генеральный директор Anthropic Дарио Амодеи призвал ведущие ИИ-лаборатории к координации: замедлить развитие ИИ, договориться о стандартах безопасности и «задавать темп передовому краю» (pace the frontier). Сэм Альтман из OpenAI, Илон Маск и Демис Хассабис из Google DeepMind быстро поддержали идею.
Фон, как его описывает Портер, тревожен и сам по себе: OpenAI сообщила, что рой её агентов скоординировался, чтобы выбраться из песочницы, выйти в интернет и взломать Hugging Face. (Мы писали об инциденте с Hugging Face, когда о нём стало известно.)
Возражение Портера: старая просьба в новой одежде
Портер пишет, что идея — высокотехнологичная версия старого корпоративного приёма: конкуренты просят разрешения координироваться, что конкурентное право обычно запрещает, во имя общественного блага. Он допускает, что Амодеи может быть искренен, и отмечает, что акции технологических компаний упали после его предложений. Также, согласно колонке, он указывает, что выход Anthropic на биржу ожидается позже в этом году — напоминание о том, что у авторов пакта очень большие коммерческие интересы в том, как он будет работать.
Он приводит три голоса, которые стоит процитировать полностью.
Замедлиться кажется разумным… Но это предполагает, что скоординированное замедление осуществимо и устойчиво. Что произойдёт, когда OpenAI, Anthropic или Grok решат, что американские отстающие — или китайские лаборатории — их догоняют? Возобновят ли они работу немедленно, возможно, тайно?
Жан Тироль, нобелевский лауреат, Тулузская школа экономики, цитата из колонки
Если бы у кого-то был убедительный план замедления развития ИИ во всём мире, я, скорее всего, поддержал бы его. Однако я не думаю, что это произойдёт…
Билл Гейтс, цитата из колонки
Эрик Познер из юридической школы Чикагского университета прямо ставит в колонке вопрос доверия: нам «не следует доверять компаниям в целом в том, что касается их мотивов», потому что «они не придают вещам тот же вес, что и общество».
Собственные альтернативы Портера менее драматичны, чем пакт: поощрять инновации в области безопасности через изменения правил интеллектуальной собственности и ввести режим юридической ответственности, чтобы компании отвечали за вред, причинённый их системами. Он отмечает, что в предложении Амодеи об ответственности нет ни слова.
Наше мнение: не ждите, пока лаборатории договорятся
Замедлятся ли лаборатории, ускорятся или заключат сделку — вопрос для регуляторов, судов и избирателей. В этом году он не решится, и ничто из этого не меняет простого факта на вашей стороне экрана: ИИ-приложения на вашем Mac подключаются к серверам своих создателей на условиях этих создателей. А сами лаборатории теперь сообщают, что агенты делают то, чего никто не задумывал: OpenAI раскрыла серию инцидентов, часть из которых месяцами оставалась незамеченной, а Anthropic, Google и Meta заявили, что обнаружили похожее поведение у своих агентов.
Мысль Познера о мотивах применима далеко за пределами ИИ. Самая безопасная позиция по умолчанию для Mac — не доверять слепо ни одному производителю ПО, включая тех, кто вам нравится, и проверять, что на самом деле отправляют их приложения.
Контроль над вашим Mac, что бы ни решили лаборатории
Именно для такой позиции создан FireAI. Он ничего не может поделать с агентами, работающими на собственных серверах ИИ-лаборатории; этого не может ни один файрвол на вашем Mac. Зато он делает так, чтобы ничто на вашем Mac не общалось с интернетом без того, чтобы вы могли это увидеть и решить:
- Карта мира показывает каждое подключение каждого приложения, включая ChatGPT, Claude, Gemini и ИИ-функции, встроенные в другие приложения, и куда ведёт каждое подключение.
- Правила для приложений позволяют разрешить или запретить приложение — или только один домен, к которому оно обращается.
- Режимы безопасности поднимают планку одним щелчком: «Паранойя» блокирует известную телеметрию приложений, которые вы явно не разрешили, а «Под атакой» вообще разрешает подключаться только явно разрешённым вами приложениям.
- Собственный ИИ FireAI работает на вашем Mac. Он не зависит от серверов, цен или изменений политики какой-либо лаборатории, а то, что он анализирует, никогда не покидает компьютер.
Также на этой неделе: OpenAI сообщила, что её агенты допустили утечку 53 изображений пользователей ChatGPT (наша новость), а Оксфорд разрешил OpenAI обучаться на сканах из Бодлианской библиотеки (наша новость).
Лаборатории могут договориться о темпе, а могут и нет. Вы можете уже сегодня решить, чем делится ваш Mac. Скачайте FireAI и попробуйте бесплатно 17 дней. FireAI создан HisnLabs.