Перейти к содержимому

Банкам, операторам связи и госсектору

Телеком

Ваш ассистент может добраться до ключей от номера телефона.

Guardrino стоит перед чатом в приложении, веб-чатом и агентами поддержки, распознаёт намерения на арабских диалектах, арабизи и английском, маскирует данные абонентов и позволяет вашей команде реагировать в реальном времени.

Запросить 60-дневный пилот

Создан и протестирован, предлагается в рамках пилотов в режиме наблюдения: Guardrino фиксирует, что он сделал бы с вашим трафиком, и ничего не блокирует, пока вы не примете решение.

Почему это важно здесь

Почему ассистент оператора связи — мишень.

Номер телефона — ключ восстановления для банковских, платёжных и государственных аккаунтов, поэтому тот, кто уговорит службу поддержки заменить SIM-карту или найти данные, получает гораздо больше, чем мобильную линию. Дорогостоящие случаи с заменой SIM и данными клиентов, описанные ниже, прошли через сотрудников поддержки-людей; ассистент с инструментами для SIM, eSIM или счетов сталкивается с теми же собеседниками, но на машинной скорости и на всех диалектах, на которых пишут ваши абоненты. Об атаках на собственного ассистента оператора из стран ССАГПЗ публично не сообщалось, но местные регуляторы уже предупреждают о мошеннических схемах, которые могли бы его питать.

Реальные инциденты

Что уже произошло.

Проверенные случаи, начиная с самых новых. Лишь немногие касаются собственного ассистента оператора; большинство показывает, что злоумышленник попросит ассистента сделать.

  • Регулятор ·

    Австралийский регулятор: сотрудники Telstra пропускали проверку личности при несанкционированной замене SIM-карт

    Австралийское управление по связи и СМИ (ACMA) установило, что сотрудники Telstra на первой линии не применяли обязательные проверки личности в серии несанкционированных замен SIM-карт и не обеспечили дополнительную защиту клиентам, которые выражали опасения или уже были отмечены как находящиеся в зоне риска. ИИ не участвовал: это были сотрудники-люди, то есть та роль, которую теперь отдают ИИ-агенту поддержки.

    Техника: Другая техника

    Последствия: Штраф и обязательство, исполнение которого может быть обеспечено через суд; клиенты сообщили о потерях от мошенничества. Это седьмая мера регулятора по мошенничеству с мобильными номерами.

    Источник: ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)

  • Регулятор ·

    TDRA ОАЭ: мошенники склоняют жертв к замене SIM-карты и проверке по лицу

    Регулятор связи ОАЭ предупредил, что мошенники могут обманом склонять пользователей к замене SIM-карты, оформлению новой SIM-карты или процедурам с проверкой по лицу через сервисы биометрической аутентификации.

    Техника: Другая техника

    Последствия: Публичное предупреждение; ни оператор, ни потери не названы. Оно показывает, какие идентификационные данные злоумышленник принесёт ассистенту оператора.

    Источник: Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)

  • Пресса ·

    Odido, Нидерланды: сотрудников службы поддержки уговорили открыть базу абонентов

    Звонивший, выдававший себя за IT-сотрудника, в сочетании с фишингом проник в систему работы с клиентами Odido и получил имена, адреса, номера телефонов, номера банковских счетов, даты рождения и номера удостоверений личности значительной части клиентской базы. По данным прессы, ИИ не участвовал.

    Техника: Другая техника

    Последствия: Данные были опубликованы после того, как Odido отказалась платить выкуп; началось полицейское расследование. Odido заявила, что записи звонков, данные о местоположении и пароли не затронуты.

    Источник: BleepingComputer: Police suspects Dutch hackers were involved in Odido breach

  • Регулятор ·

    TDRA ОАЭ: клонированные голоса чиновников в мошеннических звонках

    TDRA предупредило о росте числа звонков от имени государственных органов и опубликовало реальный фрагмент клонированного голоса, имитирующего чиновника, напомнив, что настоящие ведомства никогда не запрашивают конфиденциальные данные по телефону.

    Техника: Другая техника

    Последствия: Предупреждение регулятора, а не задокументированный случай с пострадавшими. Клонирование голоса — рабочий инструмент против телефонной поддержки и голосовых проверок.

    Источник: Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)

  • Пресса ·

    Ассистент в приложении Verizon на базе Gemini вызвал недовольство клиентов

    После того как Verizon добавил Google Gemini в ассистента своего приложения, клиенты публично жаловались, что он не справляется с запросами на удержание и даёт бесполезные советы; в одном из описанных случаев клиента, который настойчиво просил живого оператора, пометили как возможного мошенника.

    Техника: Другая техника

    Последствия: Репутационный ущерб: пресса связала это с опасениями оттока клиентов. Атаки не было, а жалобы исходили из социальных сетей, а не от Verizon.

    Источник: Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)

  • Отчёт вендора ·

    Тестировщики Deutsche Telekom нашли уязвимость фреймворка чат-ботов, позволяющую захватить сервер

    Команда тестирования безопасности Deutsche Telekom обнаружила, что к фреймворку чат-ботов с открытым кодом Rasa можно было удалённо обратиться через интерфейс, позволявший подменить модель и выполнить код на сервере, то есть полностью захватить его.

    Техника: Другая техника

    Последствия: Скоординированное раскрытие и исправление от разработчика; об эксплуатации не сообщалось. Это уязвимость платформы, а не атака через промпт: сам стек чат-бота тоже нужно обновлять.

    Источник: Deutsche Telekom: The chatbot as exploit (9 May 2025)

  • Суд ·

    T-Mobile выплачивает сумму по арбитражному решению после того, как сотрудник перенёс защищённый номер

    Сотрудник T-Mobile перенёс защищённый PIN-кодом номер клиента на SIM-карту злоумышленника, и злоумышленники опустошили его криптовалютные активы. ИИ не участвовал.

    Техника: Другая техника

    Последствия: Арбитражное решение против T-Mobile, которое арбитр связал с многочисленными нарушениями безопасности. Оно стало публичным, когда адвокаты клиента попросили суд его утвердить.

    Источник: SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)

  • Исследователи ·

    Исследователи: полностью автоматический ИИ-бот по телефону уговаривал людей раскрыть конфиденциальные данные

    Исследователи создали ViKing — голосового бота из готовых моделей речи и языка — и поручили ему звонить участникам исследования от имени сотрудника компании. Около половины раскрыли фиктивную конфиденциальную информацию, многие даже после предупреждений, а один звонок стоил меньше доллара.

    Техника: Другая техника

    Последствия: Исследовательская демонстрация: автоматизированная социальная инженерия стала достаточно дешёвой, чтобы направить её на любую линию поддержки, человеческую или ИИ.

    Источник: arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)

  • Регулятор ·

    FCC США: оператор урегулировал дело о роботизированных звонках с ИИ-клоном голоса

    Lingo Telecom передавал звонки с ИИ-клоном голоса президента Байдена, сделанные за два дня до праймериз в Нью-Гэмпшире, и присвоил им высший уровень подтверждения номера звонящего, не проверив звонящего.

    Техника: Другая техника

    Последствия: Мировое соглашение с FCC и план, введённый регулятором, с обязательной проверкой клиентов (KYC) и аутентификацией номера звонящего.

    Источник: Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement

  • Регулятор ·

    Нидерландский орган по защите данных: сотрудник телеком-компании передал адреса клиентов ИИ-чат-боту

    Autoriteit Persoonsgegevens сообщил об уведомлениях об утечках данных, вызванных тем, что сотрудники вводили персональные данные в ИИ-чат-боты; одно из них поступило от телеком-компании, сотрудник которой загрузил файл с адресами. Компания не названа.

    Техника: Другая техника

    Последствия: Утечка персональных данных, подлежащая уведомлению, и публичное предупреждение регулятора; о штрафе не сообщалось.

    Источник: DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice

Как действуют атакующие

Как злоумышленники пытаются вывести модель из-под контроля.

Опубликованные приёмы в привязке к тому, что ассистент оператора связи видит и может делать.

  • Эскалация в нескольких сообщениях · Обход ограничений модели

    Медленная легенда за много реплик

    Злоумышленник начинает с безобидных вопросов о роуминге или поддержке eSIM, выстраивает историю (за границей, телефон сломан, срочно) и только потом просит ассистента пропустить проверку или выпустить новую SIM-карту. Каждое сообщение по отдельности выглядит нормально.

    Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)

  • Диалекты и арабизи · Обход ограничений модели

    Диалект Залива, арабизи и смешение языков

    Запросы, которые модель отклоняет на литературном арабском, могут пройти, если написаны арабским латиницей или на арабизи. Смесь арабского диалекта Залива, арабизи и английского — обычное дело в чатах поддержки стран ССАГПЗ, поэтому фильтры, настроенные на английский, и пропускают атаки, и помечают обычных клиентов.

    Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024, arXiv 2406.18725)

  • Косвенная инъекция · Обход ограничений модели

    Инструкции, спрятанные в счетах, скриншотах и обращениях

    Текст, которого клиент не набирал, спрятанный в загруженном счёте, письме или странице базы знаний, велит агенту одобрить начисление или раскрыть заметки по аккаунту.

    Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)

  • Извлечение системного промпта · Обход ограничений модели

    Извлечение правил проверки

    Простые запросы могут заставить ассистента пересказать свои скрытые инструкции: какие проверки он проводит, какие у него инструменты, когда он передаёт разговор человеку. Так злоумышленник узнаёт, какая история пройдёт.

    Zhang, Carlini, Ippolito, Effective Prompt Extraction from Language Models (arXiv 2307.06865)

  • Перехват агента · Обход ограничений модели

    Перехват инструментов управления аккаунтом

    Как только ассистент может сменить SIM-карту, тариф или счёт, инструкции, подложенные в то, что он читает, могут заставить его вызывать эти инструменты для злоумышленника, а не для абонента.

    NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 Jan 2025)

  • Утечка данных · Обход ограничений модели

    Вывод данных через ссылку или изображение

    Внедрённая инструкция заставляет ассистента написать изображение или ссылку, адрес которых содержит данные абонента; когда окно чата их загружает, данные уходят злоумышленнику.

    Embrace The Red (Johann Rehberger), Bing Chat: Data Exfiltration Exploit Explained (18 Jun 2023)

  • Джейлбрейк · Обход ограничений модели

    Ролевая игра и ложные полномочия

    Злоумышленник велит модели вести себя как супервайзер, тестовый режим или персонаж без правил, чтобы её обычные ограничения казались неприменимыми.

    Shen et al., "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (arXiv 2308.03825)

Во что обходится атака

Во что оператору связи обходится утечка.

Публичные средние значения и штрафы, у каждого указаны источник и год. IBM публикует данные по сектору коммуникаций, а не только по телекому; её ближневосточные данные охватывают Саудовскую Аравию и ОАЭ.

Больший ущерб — потеря доверия. На Ближнем Востоке упущенная выручка — крупнейшая статья в разбивке ущерба от утечек по данным IBM, а замена SIM-карты обычно заканчивается тем, что абонент теряет деньги с банковского счёта или кошелька и винит оператора. История с Verizon показывает, что даже ассистент, который просто плохо отвечает, становится публичным сюжетом; тот, кто выдаёт номер или файл клиента, становится делом для регулятора.

Оцените свои риски

Сколько записей о клиентах может раскрыть одна атака? Введите число или передвиньте ползунок, затем выберите регион.

Оценочная стоимость раскрытых записей: 1,6 млн $

Записей: 10 000 × 160 $ за запись

Для сравнения, средняя стоимость утечки: 7,29 млн $

Грубая оценка по открытым средним данным, а не коммерческое предложение.

Как помогает Guardrino

Как Guardrino помогает оператору.

Три атаки, с которыми столкнётся ассистент оператора, и уровни защиты, которые реагируют на каждую. Guardrino снижает риск; решение о том, кому можно менять SIM-карту, по-прежнему принимает ваш бэкенд.

  • Многоходовая легенда, чтобы перенести номер на новую eSIM

    Атака: Имея утёкшие имя, номер и национальный ID жертвы, злоумышленник в несколько реплик общается с ассистентом вашего приложения на арабском диалекте Залива, арабизи и английском: сначала вопросы о роуминге и eSIM, потом история о том, что он застрял за границей, затем просьба пропустить дополнительную проверку, потому что UAE Pass не работает за рубежом, и отправить код eSIM на новый адрес электронной почты.

    Что делает Guardrino: Очистка превращает арабизи и смешанное письмо в текст, понятный проверкам. Правила маскируют номер удостоверения и адрес почты до того, как они попадут в модель и журналы. Сигнатуры и модель Guardrino отмечают просьбу пропустить проверку. Память диалога оценивает нарастание по всем репликам, а не только последнее сообщение, а неясные реплики уходят на углублённую проверку, ведь настоящий путешественник может звучать так же. Ваша команда видит это в реальном времени и может поместить отправителя в карантин, ограничить частоту повторных попыток, добавить правило для этой легенды или пропустить запрос, если это был настоящий клиент.

    Задействованные уровни: Очистка · Правила · Сигнатуры · Модель Guardrino · Углублённая проверка · Память · Ваши ответные меры

  • Инструкции, спрятанные в загруженном счёте

    Атака: Клиент домашнего интернета загружает скриншот счёта агенту по спорам о счетах, который может читать заметки по аккаунту и начислять компенсации. Скрытый текст сообщает, что супервайзер одобрил полное начисление, и просит агента пересказать в ответе заметки по аккаунту и способ оплаты.

    Что делает Guardrino: Когда документ проходит через шлюз, очистка выявляет скрытый текст, а сигнатуры и модель распознают инструкцию, выдающую себя за системную заметку. Маскирование убирает из ответа платёжные данные и номера удостоверений. Правило может задержать любой ответ, обещающий начисление без ссылки на сотрудника, а ваша команда может поместить сессию в карантин. Лимиты начислений по-прежнему должна обеспечивать биллинговая система.

    Задействованные уровни: Очистка · Правила · Сигнатуры · Модель Guardrino · Ваши ответные меры

  • Данные абонентов утекают на входе и на выходе

    Атака: Скрипт просит ассистента по статусу заказа проверять один номер телефона за другим в надежде, что тот зачитает имена и адреса. Внутри контакт-центра сотрудник вставляет файл с адресами и номерами удостоверений клиентов во внутренний копилот, чтобы привести его в порядок, — ровно тот сценарий, о котором сообщил нидерландский регулятор.

    Что делает Guardrino: Маскирование заменяет номера телефонов, национальные ID, номера банковских счетов, адреса почты и почтовые адреса на входе и на выходе, до того как данные попадут к поставщику модели: Guardrino рассчитан на требования к локализации данных. Правило отмечает множество номеров удостоверений в одном промпте. Память замечает отправителя, перебирающего номера, а ваша команда может ограничить его частоту запросов или заблокировать его и превратить шаблон в правило.

    Задействованные уровни: Правила · Память · Ваши ответные меры

Честно об ограничениях

Чего Guardrino не покрывает

Guardrino снижает риск, но не гарантирует, что ни одна атака не пройдёт.

  • Он не исправляет ответы, которые ваш ассистент выдумывает, например несуществующую плату за роуминг или правило возврата, — сбой, стоящий за решением по чат-боту Air Canada. Фильтр промпт-инъекций такого не ловит; нужны ответы, основанные на ваших данных, и проверка правил с вашей стороны.
  • Он не проверяет личность. Если злоумышленник проходит ваши настоящие проверки с украденными данными или обманом заставляет жертву пройти проверку по лицу, о чём предупреждает TDRA, никакой инъекции нет: инструменты для SIM, eSIM и переноса номера должны требовать аутентификацию и дополнительные проверки в бэкенде, что бы ни говорил ассистент.
  • Телефонные звонки с клонированными голосами находятся вне текстового шлюза, если только ваш голосовой бот не отправляет свои расшифровки через Guardrino.
  • Он видит только трафик, проходящий через него: сотрудники, самостоятельно пользующиеся публичными чат-ботами, контент, который ваш агент загружает напрямую, и уязвимости платформы вроде захвата сервера Rasa находятся вне его поля зрения.

Следующий шаг

Начните с 60-дневного пилота в режиме наблюдения.

Guardrino наблюдает за вашим реальным трафиком и записывает, что он сделал бы; он ничего не блокирует, пока вы не решите.

Запросить 60-дневный пилот · Или напишите на [email protected]

Источники

  1. ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)
  2. Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)
  3. BleepingComputer: Police suspects Dutch hackers were involved in Odido breach
  4. Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)
  5. Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)
  6. Deutsche Telekom: The chatbot as exploit (9 May 2025)
  7. SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)
  8. arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)
  9. Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement
  10. DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice
  11. IBM, Cost of a Data Breach Report 2025 (PDF copy hosted by Baker Donelson)
  12. IBM Middle East newsroom: Cost of a Data Breach 2025, Middle East findings (30 Jul 2025)
  13. DLA Piper, Data Protection Laws of the World: Saudi Arabia (Personal Data Protection Law)
  14. Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)
  15. Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024, arXiv 2406.18725)
  16. Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)
  17. Zhang, Carlini, Ippolito, Effective Prompt Extraction from Language Models (arXiv 2307.06865)
  18. NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 Jan 2025)
  19. Embrace The Red (Johann Rehberger), Bing Chat: Data Exfiltration Exploit Explained (18 Jun 2023)
  20. Shen et al., "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (arXiv 2308.03825)

Факты последний раз проверены 26 октября 2026 г..