Перейти до вмісту

Банкам, операторам звʼязку та держсектору

Телеком

Ваш асистент має доступ до ключів від номера телефону.

Guardrino стоїть перед чатом у застосунку, вебчатом і агентами підтримки, читає намір арабськими діалектами, арабізі та англійською, маскує дані абонентів і дає вашій команді змогу реагувати в реальному часі.

Запитати 60-денний пілот

Створено й протестовано, пропонується в межах пілотів у режимі спостереження: Guardrino фіксує, що він зробив би з вашим трафіком, і нічого не блокує, доки ви не ухвалите рішення.

Чому це важливо тут

Чому асистент оператора зв’язку стає мішенню.

Номер телефону — це ключ відновлення для банківських, гаманцевих і державних акаунтів, тож той, хто вмовить канал підтримки замінити SIM чи знайти дані, може захопити набагато більше, ніж мобільну лінію. Дорогі випадки із заміною SIM і даними клієнтів нижче пройшли через операторів підтримки — людей; асистент з інструментами для SIM, eSIM чи рахунків стикається з тими самими абонентами — на машинній швидкості й кожним діалектом, яким пишуть ваші клієнти. Про атаку на власного асистента оператора в країнах Ради співробітництва держав Затоки публічно не повідомлялося, але місцеві регулятори вже попереджають про шахрайські схеми, які б його живили.

Реальні інциденти

Що вже сталося.

Перевірені випадки, від найновіших. Лише кілька стосуються власного асистента оператора; більшість показує, що зловмисник попросить зробити асистента.

  • Регулятор ·

    Австралійський регулятор: працівники Telstra пропускали перевірку особи під час несанкціонованих замін SIM

    Australian Communications and Media Authority встановила, що працівники фронт-офісу Telstra не застосовували обов’язкових перевірок особи в низці несанкціонованих замін SIM і не надавали додаткового захисту клієнтам, які висловлювали занепокоєння або вже були позначені як група ризику. ШІ не було задіяно: це були люди-оператори, тобто роль, яку зараз доручають ШІ-агентам підтримки.

    Техніка: Інша техніка

    Наслідки: Штраф і зобов’язання, виконання якого можна вимагати через суд; клієнти повідомляли про втрати від шахрайства. Це сьома дія регулятора щодо шахрайства з мобільними номерами.

    Джерело: ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)

  • Регулятор ·

    TDRA ОАЕ: шахраї підштовхують жертв до заміни SIM і перевірки за обличчям

    Телекомунікаційний регулятор ОАЕ попередив, що шахраї можуть ошукати користувачів, змусивши їх замінити SIM, оформити нові SIM-картки або пройти процедури з перевіркою обличчя через сервіси біометричної автентифікації.

    Техніка: Інша техніка

    Наслідки: Публічне попередження; жодного оператора чи збитку не названо. Воно показує, з якими особистими даними зловмисник прийде до асистента оператора.

    Джерело: Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)

  • Преса ·

    Odido, Нідерланди: працівників служби підтримки вмовили відкрити записи абонентів

    Абонент, який видавав себе за ІТ-працівника, разом із фішингом отримав доступ до системи роботи з клієнтами Odido й забрав імена, адреси, номери телефонів, номери банківських рахунків, дати народження й номери документів, що посвідчують особу, значної частини клієнтської бази. За даними преси, ШІ задіяно не було.

    Техніка: Інша техніка

    Наслідки: Дані опублікували після того, як Odido відмовилася платити викуп, і поліція почала розслідування. Odido заявила, що записи дзвінків, дані про місцеперебування й паролі не постраждали.

    Джерело: BleepingComputer: Police suspects Dutch hackers were involved in Odido breach

  • Регулятор ·

    TDRA ОАЕ: клоновані голоси посадовців у шахрайських дзвінках

    TDRA попередила про зростання кількості дзвінків від імені державних установ і поширила реальний фрагмент клонованого голосу, що імітував посадовця, нагадавши, що справжні установи ніколи не просять конфіденційних даних телефоном.

    Техніка: Інша техніка

    Наслідки: Попередження регулятора, а не задокументований випадок із постраждалими. Клонування голосу — робочий інструмент проти телефонної підтримки й голосових перевірок.

    Джерело: Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)

  • Преса ·

    Асистент у застосунку Verizon на базі Gemini викликає хвилю невдоволення клієнтів

    Після того як Verizon додала Google Gemini до асистента в застосунку, клієнти публічно скаржилися, що він не справляється із запитами на утримання й дає марні поради; в одному з описаних випадків клієнт, який наполегливо просив живого оператора, отримав позначку можливого шахрайства на акаунті.

    Техніка: Інша техніка

    Наслідки: Репутаційні наслідки: преса пов’язала це з ризиком відтоку клієнтів. Атаки не було, а скарги надходили із соцмереж, а не від Verizon.

    Джерело: Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)

  • Звіт постачальника ·

    Тестувальники Deutsche Telekom знайшли у фреймворку чатботів уразливість, що дає змогу захопити сервер

    Команда тестування безпеки Deutsche Telekom з’ясувала, що до фреймворку чатботів із відкритим кодом Rasa можна дістатися віддалено через інтерфейс, у якому можна підмінити модель і виконати код на сервері, тобто повністю його захопити.

    Техніка: Інша техніка

    Наслідки: Скоординоване розкриття й виправлення від розробника; про використання вразливості не повідомлялося. Це вада платформи, а не атака через промпт: сам стек чатбота теж потребує оновлень.

    Джерело: Deutsche Telekom: The chatbot as exploit (9 May 2025)

  • Суд ·

    T-Mobile виплачує арбітражну компенсацію після того, як працівник переніс захищений номер

    Працівник T-Mobile переніс захищений PIN-кодом номер клієнта на SIM зловмисника, і зловмисники спустошили його криптовалютні активи. ШІ задіяно не було.

    Техніка: Інша техніка

    Наслідки: Арбітражне рішення проти T-Mobile, яке арбітр пов’язав із численними порушеннями безпеки. Воно стало публічним, коли адвокати клієнта попросили суд його затвердити.

    Джерело: SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)

  • Дослідники ·

    Дослідники: повністю автоматизований телефонний ШІ-бот умовив людей розкрити чутливі дані

    Дослідники створили ViKing — голосового бота з готових моделей мовлення та мовних моделей — і змусили його дзвонити учасникам дослідження під виглядом працівника компанії. Приблизно половина розкрила фіктивну чутливу інформацію, багато хто навіть після попереджень, і все це коштувало менше долара за дзвінок.

    Техніка: Інша техніка

    Наслідки: Дослідницька демонстрація: автоматизована соціальна інженерія стала досить дешевою, щоб націлити її на будь-яку лінію підтримки, людську чи ШІ.

    Джерело: arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)

  • Регулятор ·

    FCC США: оператор урегулював справу про роботизовані дзвінки з клонованим ШІ голосом

    Lingo Telecom передавала дзвінки з ШІ-клоном голосу президента Байдена, зроблені за два дні до праймеріз у Нью-Гемпширі, і позначала їх найвищим рівнем засвідчення ідентифікатора абонента, не перевіривши, хто телефонує.

    Техніка: Інша техніка

    Наслідки: Мирова угода з FCC і план, накладений регулятором, що вимагає перевірок «знай свого клієнта» й автентифікації ідентифікатора абонента.

    Джерело: Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement

  • Регулятор ·

    Нідерландський орган із захисту даних: працівник телеком-компанії завантажив адреси клієнтів у ШІ-чатбот

    Autoriteit Persoonsgegevens повідомив про сповіщення про витоки даних, спричинені тим, що працівники вводили персональні дані в ШІ-чатботи; одне з них надійшло від телеком-компанії, працівник якої ввів файл з адресами. Компанію не названо.

    Техніка: Інша техніка

    Наслідки: Витік персональних даних, про який треба повідомляти, і публічне попередження регулятора; про штраф не повідомлялося.

    Джерело: DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice

Як діють зловмисники

Як зловмисники намагаються вивести модель з-під контролю.

Опубліковані техніки, зіставлені з тим, що телеком-асистент бачить і може робити.

  • Ескалація в кількох повідомленнях · Обхід обмежень моделі

    Повільна легенда в багатьох репліках

    Зловмисник починає з безневинних запитань про роумінг чи підтримку eSIM, вибудовує історію (за кордоном, телефон зламався, терміново) і лише тоді просить асистента пропустити перевірку чи видати нову SIM. Кожне повідомлення окремо виглядає нормально.

    Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)

  • Діалекти та арабізі · Обхід обмежень моделі

    Затоцький діалект, арабізі й перемикання мов

    Запити, які модель відхиляє стандартною арабською, можуть пройти, якщо їх написати арабською латиницею чи арабізі. Мішанина затоцької арабської, арабізі й англійської — звична річ у чатах підтримки країн Затоки, тож фільтри, налаштовані на англійську, і пропускають атаки, і позначають звичайних клієнтів.

    Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024, arXiv 2406.18725)

  • Непряма інʼєкція · Обхід обмежень моделі

    Інструкції, сховані в рахунках, скриншотах і заявках

    Текст, якого клієнт ніколи не вводив, схований у завантаженому рахунку, листі чи сторінці бази знань, наказує агентові схвалити кредит або розкрити нотатки до акаунта.

    Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)

  • Витягування системного промпту · Обхід обмежень моделі

    Витягування правил перевірки

    Прості запити можуть змусити асистента переказати свої приховані інструкції: які перевірки він виконує, які має інструменти, коли передає розмову людині. Так зловмисник дізнається, яка історія спрацює.

    Zhang, Carlini, Ippolito, Effective Prompt Extraction from Language Models (arXiv 2307.06865)

  • Перехоплення агента · Обхід обмежень моделі

    Захоплення інструментів акаунта

    Щойно асистент може змінити SIM, тариф чи рахунок, інструкції, підкинуті в те, що він читає, можуть змусити його викликати ці інструменти на користь зловмисника, а не абонента.

    NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 Jan 2025)

  • Витік даних · Обхід обмежень моделі

    Вивід даних через посилання чи зображення

    Підкинута інструкція змушує асистента написати зображення чи посилання, адреса якого містить дані абонента; коли вікно чату його завантажує, дані потрапляють до зловмисника.

    Embrace The Red (Johann Rehberger), Bing Chat: Data Exfiltration Exploit Explained (18 Jun 2023)

  • Джейлбрейк · Обхід обмежень моделі

    Рольова гра й фальшиві повноваження

    Зловмисник велить моделі грати роль супервізора, тестового режиму чи персонажа без правил, щоб її звичні обмеження ніби перестали діяти.

    Shen et al., "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (arXiv 2308.03825)

Скільки коштує атака

Чого оператору зв’язку коштує витік.

Публічні середні показники та штрафи, кожен із джерелом і роком. IBM подає дані для галузі комунікацій, а не лише телекому; її близькосхідні показники охоплюють Саудівську Аравію та ОАЕ.

Більша втрата — довіра. На Близькому Сході втрачений бізнес — найбільша стаття у структурі витрат на витік за даними IBM, а заміна SIM зазвичай закінчується тим, що абонент утрачає гроші з банківського рахунку чи гаманця й звинувачує оператора. Хвиля невдоволення Verizon показує: навіть асистент, який просто погано відповідає, стає публічною історією; а той, що віддає номер чи файл клієнта, стає справою для регулятора.

Оцініть свої ризики

Скільки записів про клієнтів може розкрити одна атака? Введіть число або пересуньте повзунок, потім виберіть регіон.

Орієнтовна вартість розкритих записів: 1,6 млн USD

Записів: 10 000 × 160 USD за запис

Для порівняння, середня вартість витоку: 7,29 млн USD

Груба оцінка за відкритими середніми даними, а не комерційна пропозиція.

Як допомагає Guardrino

Як Guardrino допомагає оператору.

Три атаки, які побачить асистент оператора, і рівні, що спрацьовують на кожну. Guardrino знижує ризик; хто може змінити SIM, однаково вирішує ваш бекенд.

  • Легенда в кількох репліках, щоб перенести номер на нову eSIM

    Атака: Маючи злиті ім’я, номер і національний ID жертви, зловмисник у кілька реплік переписується з асистентом у вашому застосунку затоцькою арабською, арабізі та англійською: спершу питання про роумінг і eSIM, потім історія про те, що він застряг за кордоном, а потім прохання пропустити додаткову перевірку, бо UAE Pass за кордоном не працює, і надіслати код eSIM на нову електронну адресу.

    Що робить Guardrino: Очищення перетворює арабізі й змішані алфавіти на текст, який можуть прочитати перевірки. Правила маскують номер ID та електронну адресу до того, як вони потраплять до моделі й у журнали. Сигнатури й модель Guardrino позначають прохання пропустити перевірку. Пам’ять розмови оцінює наростання впродовж реплік, а не лише останнє повідомлення, а глибока перевірка бере на себе неоднозначні репліки, адже справжній мандрівник може звучати так само. Ваша команда бачить це в реальному часі й може помістити відправника в карантин, обмежити частоту повторних спроб, додати правило для цієї історії або дозволити її, якщо це був справжній клієнт.

    Задіяні рівні: Очищення · Правила · Сигнатури · Модель Guardrino · Поглиблена перевірка · Памʼять · Ваші заходи реагування

  • Інструкції, сховані в завантаженому рахунку

    Атака: Клієнт домашнього інтернету завантажує скриншот рахунку агентові з оскарження рахунків, який може читати нотатки до акаунта й нараховувати компенсації. Прихований текст повідомляє, що супервізор схвалив повну компенсацію, і просить агента підсумувати у відповіді нотатки до акаунта й спосіб оплати.

    Що робить Guardrino: Коли документ проходить через шлюз, очищення виявляє прихований текст, а сигнатури й модель розпізнають інструкцію, що видає себе за системну примітку. Маскування прибирає з відповіді платіжні дані й номери ID. Правило може затримати будь-яку відповідь, що обіцяє компенсацію без посилання на рішення людини, а ваша команда може помістити сесію в карантин. Самі ліміти компенсацій однаково має забезпечувати білінгова система.

    Задіяні рівні: Очищення · Правила · Сигнатури · Модель Guardrino · Ваші заходи реагування

  • Дані абонентів витікають у обидва боки

    Атака: Скрипт просить асистента зі статусу замовлень перевіряти номери телефонів один за одним, сподіваючись, що той зачитає імена й адреси. А в контакт-центрі працівник вставляє файл з адресами й номерами ID клієнтів у внутрішнього копілота, щоб його впорядкувати, — саме такий шаблон описав нідерландський регулятор.

    Що робить Guardrino: Маскування замінює номери телефонів, національні ID, номери банківських рахунків, електронні адреси й поштові адреси на вході й на виході, до того як дані потраплять до постачальника моделі: Guardrino створено з урахуванням вимог до резидентності даних. Правило позначає велику кількість номерів ID в одному промпті. Пам’ять помічає відправника, який перебирає номери, а ваша команда може обмежити частоту його запитів чи заблокувати його й перетворити шаблон на правило.

    Задіяні рівні: Правила · Памʼять · Ваші заходи реагування

Чесно про обмеження

Чого Guardrino не покриває

Guardrino знижує ризик; він не гарантує, що жодна атака не пройде.

  • Він не виправляє відповідей, які ваш асистент вигадує, як-от вигадану плату за роумінг чи правило повернення коштів, — саме такий збій стоїть за рішенням у справі чатбота Air Canada. Запобіжник від prompt injection такого не ловить; для цього потрібні обґрунтовані відповіді й перевірки правил з вашого боку.
  • Він не перевіряє особу. Якщо зловмисник проходить ваші реальні перевірки з украденими даними або обманом змушує жертву пройти перевірку за обличчям, як попереджає TDRA, ін’єкції, яку можна побачити, немає: інструменти SIM, eSIM і перенесення номера мають вимагати автентифікації й посиленої перевірки в бекенді, хоч би що казав асистент.
  • Телефонні дзвінки з клонованими голосами лежать поза текстовим шлюзом, якщо ваш голосовий бот не надсилає свої транскрипти через Guardrino.
  • Він бачить лише трафік, що проходить через нього: працівники, які самі користуються публічними чатботами, вміст, який ваш агент отримує напряму, і вади платформи на кшталт захоплення сервера Rasa лишаються поза його полем зору.

Наступний крок

Почніть із 60-денного пілоту в режимі спостереження.

Guardrino спостерігає за вашим реальним трафіком і записує, що зробив би; він нічого не блокує, доки ви не вирішите.

Запитати 60-денний пілот · Або напишіть на [email protected]

Джерела

  1. ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)
  2. Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)
  3. BleepingComputer: Police suspects Dutch hackers were involved in Odido breach
  4. Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)
  5. Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)
  6. Deutsche Telekom: The chatbot as exploit (9 May 2025)
  7. SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)
  8. arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)
  9. Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement
  10. DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice
  11. IBM, Cost of a Data Breach Report 2025 (PDF copy hosted by Baker Donelson)
  12. IBM Middle East newsroom: Cost of a Data Breach 2025, Middle East findings (30 Jul 2025)
  13. DLA Piper, Data Protection Laws of the World: Saudi Arabia (Personal Data Protection Law)
  14. Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)
  15. Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024, arXiv 2406.18725)
  16. Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)
  17. Zhang, Carlini, Ippolito, Effective Prompt Extraction from Language Models (arXiv 2307.06865)
  18. NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 Jan 2025)
  19. Embrace The Red (Johann Rehberger), Bing Chat: Data Exfiltration Exploit Explained (18 Jun 2023)
  20. Shen et al., "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (arXiv 2308.03825)

Факти востаннє перевірено 26 жовтня 2026 р..