Поздно ночью многие изливают душу не другу и не врачу, а чат-боту. Новое исследование Proton, швейцарской компании, специализирующейся на приватности, о котором сообщил TechRadar, выражает это в цифрах — как и противоречие, лежащее в основе.
Что показал опрос
- Две трети (66 процентов) британских пользователей ИИ обсуждали с ИИ-ассистентом хотя бы одну деликатную тему.
- Чаще всего: личные финансы (33 процента), проблемы на работе или в карьере (32 процента), психическое здоровье (27 процентов) и отношения (20 процентов).
- При этом 42 процента британских пользователей мало или совсем не доверяют ИИ-компаниям защиту своей личной информации, а 11 процентов не доверяют им вовсе.
- 64 процента опасаются, что их разговоры используются для построения рекламных или маркетинговых профилей; 52 процента опасаются, что их секреты используются для обучения будущих ИИ-моделей.
- 82 процента сказали, что с большей вероятностью пользовались бы чат-ботом, созданным с упором на приватность.
Зачем доверяться тому, чему не доверяешь? «Свобода от осуждения», — заключает отчёт: чат-бот отвечает в любое время и никогда не реагирует удивлением или смущением.
ИИ узнаёт о нас гораздо больше, чем когда-либо мог поисковик. Мы не просто задаём вопросы. Мы делимся глубоко личными подробностями о своём здоровье, финансах и отношениях. И когда технология знает о нас так много, о приватности нельзя думать в последнюю очередь.
Имон Магуайр, директор по разработке ИИ в Proton, цитата из TechRadar
Proton, у которой есть собственный ориентированный на приватность чат-бот Lumo и которая запустила инструмент AI Paper Trail, показывающий, как много раскрывает типичный разговор, здесь, конечно, не нейтральная сторона. Но тревога в её цифрах знакома. Как сказал Магуайр, люди вручают ИИ-компаниям «свою внутреннюю жизнь и самые большие секреты», предполагая, что те их защитят, тогда как «бизнес-модель ИИ зависит от обучения на них».
Простейшее правило приватности для ИИ: где он работает?
Политика конфиденциальности — это обещание. Где происходят вычисления — это факт. Когда чат-бот работает на серверах компании, всё, что вы набираете, отправляется туда, а что будет дальше, зависит от настроек этой компании, её бизнес-модели и того, кто может законно потребовать её записи. Когда модель работает на вашем собственном устройстве, то, что вы ей даёте, остаётся на вашем устройстве.
У моделей на устройстве есть ограничения: они меньше, и для свободного разговора они не так способны, как большие облачные модели. Но для конкретной задачи небольшой локальной модели достаточно, и это единственный вид моделей, который не может допустить утечку того, что никогда не отправлял.
Пять привычек, которые делают разговор с чат-ботом менее откровенным
Во-первых, откройте настройки чат-бота и найдите параметр, позволяющий использовать ваши разговоры для улучшения или обучения его моделей; большинство сервисов позволяют его отключить, и по умолчанию он редко выключен. Во-вторых, для всего деликатного ищите временный или приватный режим чата и проверьте, как долго, по словам сервиса, хранятся такие чаты.
В-третьих, не указывайте того, что идентифицирует вас или других людей: полные имена, адреса, номера счетов, сведения о здоровье, фото документов. Описывайте ситуацию, а не вставляйте сам документ. В-четвёртых, удаляйте старые разговоры, которые вам больше не нужны; историю, которую вы не храните, нельзя раскрыть позже. В-пятых, осторожнее с плагинами чат-ботов и подключёнными аккаунтами, потому что каждый из них — новое место, куда могут попасть ваши данные.
Как FireAI применяет это правило
- ИИ FireAI, который простым языком объясняет, что представляет собой подключение на вашем Mac, работает полностью на вашем Mac. То, что он анализирует, никогда не отправляется облачному ИИ и не может оказаться в чьём-либо обучающем наборе. См. ИИ-модель на устройстве.
- Для ИИ-приложений, которыми вы пользуетесь, карта мира показывает, куда подключается каждое из них, а правила для приложений позволяют решить, каким из них вообще можно выходить в интернет.
- Режим «Паранойя» также блокирует известную телеметрию, поэтому приложениям, которые в фоне отчитываются о вас, отказано.
FireAI не может сделать облачный чат-бот приватным и не может вернуть то, что вы уже в него ввели. Помогают две привычки: проверьте, позволяет ли ваш чат-бот отключить обучение на ваших разговорах, и вообще не выносите самое деликатное (сведения о здоровье, номера счетов, личную информацию других людей) в облачные чаты.
Скачайте FireAI и попробуйте бесплатно 17 дней. FireAI создан HisnLabs.