Новости безопасности и искусственного интеллекта

Саммит США и Китая и искусственный интеллект · Автор FireAI Security & Research Team · Опубликовано

Трамп и Си завершили саммит без соглашения по ИИ. Наверху никто не замедляется

Саммит США и Китая завершился без крупного соглашения по ИИ. Обе стороны мчатся вперёд, ИИ-агенты приходят в каждое устройство, и контроль начинается с вашего собственного Mac.

Illustration: a globe with two map pins joined by a dotted line, next to the words “No AI deal. Nobody is slowing down.”

Трёхдневный государственный визит, объединивший США и Китай, завершился в пятницу без крупного соглашения по искусственному интеллекту, сообщила The Guardian. Главным итогом саммита стало продление торгового перемирия между двумя странами на два месяца.

Что сказала каждая сторона

Председатель КНР Си Цзиньпин заявил, что у обеих стран есть «ответственность развивать ИИ и управлять им во благо» и что они должны «обеспечить, чтобы развитие ИИ всегда оставалось под контролем человека». Согласно материалу, Китай поставил цель к 2030 году довести проникновение интеллектуальных терминалов нового поколения и ИИ-агентов до более чем 90 процентов.

Президент Дональд Трамп, со своей стороны, добивался переименования ИИ в «сверхинтеллект». Несколько американских технологических лидеров, среди них Илон Маск, Лиза Су из AMD, Дженсен Хуанг из Nvidia и Тим Кук из Apple, присутствовали на государственном ужине; их китайских коллег там не было, отметила газета.

Чего ждали наблюдатели и что получили

Некоторые надеялись на большее. Член Палаты представителей Ро Кханна, предлагавший технические рабочие группы двух стран и паузу в разработке самосовершенствующегося ИИ, сказал The Guardian: «Это был такой лёгкий мяч».

Единственное, в чём они, похоже, сошлись, — ни один из них не хочет замедляться с этой технологией.

Джонатан Цзинь, Брукингский институт, цитата из The Guardian

Лидеры должны снова встретиться на саммите АТЭС в Шэньчжэне в ноябре и на G20 в декабре, так что вопрос вернётся. Пока общего свода правил у двух крупнейших ИИ-держав нет.

Почему это важно на вашем столе, а не только в Пекине и Вашингтоне

Если оставить геополитику в стороне, из этого саммита ясно одно: ни одна из двух ИИ-сверхдержав мира не собирается замедляться, а у одной из них заявлена цель довести к 2030 году проникновение интеллектуальных терминалов нового поколения и ИИ-агентов до более чем 90 процентов. Тем временем сами ИИ-лаборатории спорят о том, стоит ли им координироваться, о чём мы писали в материале ИИ-лаборатории хотят сами себя контролировать, и сообщают об агентах, которые делали то, чего никто не задумывал, — например, об утечке изображений 53 пользователей ChatGPT по вине агентов OpenAI.

ИИ-агенты — это программы, действующие от вашего имени: они читают, пишут, нажимают и подключаются. На компьютере это означает приложения и фоновые процессы, обращающиеся к серверам, о которых вы могли никогда не слышать. Что бы ни было — или не было — согласовано на следующем саммите, практический уровень контроля — это устройство перед вами.

Контроль на уровне устройства с FireAI

FireAI — это файрвол для Mac, который отдаёт этот контроль в ваши руки, не требуя доверять обещаниям какого-либо правительства или компании:

  • Он спрашивает, прежде чем приложение, включая ИИ-приложение или агента, впервые подключится к интернету, и запоминает ваш ответ как правило. (В режиме «Дом» собственные системные инструменты Apple разрешены автоматически; в режиме «Паранойя» их нужно одобрять, как любое другое приложение.)
  • Карта мира показывает, куда идёт каждое подключение, поэтому трафик ИИ-приложения не остаётся невидимым.
  • Правила для приложений и режимы безопасности («Дом», «Кафе», «Паранойя», «Под атакой») позволяют решить, насколько строгим должен быть ваш Mac: от вопросов о новых приложениях до разрешения только тех, которые вы явно одобрили.
  • Собственный ИИ FireAI работает на вашем Mac, а не на сервере в какой-либо стране, и то, что он анализирует, никогда не покидает компьютер.

Саммиты будут продолжаться. Что подключается с вашего Mac — решать вам. Скачайте FireAI и попробуйте бесплатно 17 дней. FireAI создан HisnLabs.

Источники