跳到正文

面向银行、电信运营商和政府机构

电信

您的助手能接触到一个电话号码的“钥匙”。

Guardrino 部署在您的应用内聊天、网页聊天和客服智能体之前，读懂阿拉伯语方言、Arabizi 和英语中的意图，遮蔽用户数据，并让您的团队实时应对。

申请 60 天试点

已完成构建和测试，通过仅观察模式的试点提供：Guardrino 只记录它会对您的流量采取的处理，在您做出决定之前不拦截任何内容。

为什么这里尤其重要

为什么电信助手会成为攻击目标。

电话号码是银行、钱包和政务账户的找回凭证，谁能说服客服渠道更换 SIM 卡或查询数据，谁能接管的就远不止一条手机线路。下文代价高昂的 SIM 卡更换和客户数据案例，都经由人工客服发生；一个被赋予 SIM、eSIM 或计费工具的助手，面对的是同样的来电者，只是速度更快，而且要应对您的用户书写的每一种方言。目前尚无针对海湾合作委员会国家运营商自有助手的攻击被公开报道，但本地监管机构已经在警示那些可能被用来攻击助手的骗局。

真实事件

已经发生的事。

经过核实的案例，按时间由近及远排列。涉及运营商自有助手的案例不多；大多数案例展示的是攻击者会要求助手去做什么。

  • 监管机构 ·

    澳大利亚监管机构：Telstra 员工在未经授权的 SIM 卡更换中跳过身份核验

    澳大利亚通信和媒体管理局发现，Telstra 一线员工在一系列未经授权的 SIM 卡更换中没有执行规定的身份核验，也没有为曾表达担忧或已被标记为高风险的客户提供额外保护。此事不涉及 AI：执行操作的是人工客服，而这正是如今正在交给 AI 客服智能体的角色。

    手法: 其他手法

    后果: 被处以罚款并作出可由法院强制执行的承诺；客户报告了欺诈损失。这是该监管机构针对手机号码欺诈采取的第七次行动。

    来源: ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)

  • 监管机构 ·

    阿联酋 TDRA：骗子诱使受害者更换 SIM 卡并进行人脸验证

    阿联酋电信监管机构警告称，骗子可能诱骗用户更换 SIM 卡、办理新 SIM 卡，或通过生物特征认证服务完成需要人脸验证的流程。

    手法: 其他手法

    后果: 这是一则公开提示，未点名任何运营商或损失。它表明了攻击者可能会带到运营商助手面前的身份数据。

    来源: Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)

  • 媒体 ·

    荷兰 Odido：客服人员被说服打开了用户记录

    一名冒充 IT 员工的来电者结合网络钓鱼，进入了 Odido 的客户联络系统，取走了其很大一部分客户的姓名、地址、电话号码、银行账号、出生日期和身份证件号码。据媒体报道，此事不涉及 AI。

    手法: 其他手法

    后果: 在 Odido 拒绝支付赎金后，数据被公开，警方随后展开调查。Odido 表示通话记录、位置数据和密码未受影响。

    来源: BleepingComputer: Police suspects Dutch hackers were involved in Odido breach

  • 监管机构 ·

    阿联酋 TDRA：诈骗电话中出现克隆的官员声音

    TDRA 警告冒充政府机构的电话有所增加，并公布了一段真实的克隆声音片段，模仿的是一名官员，同时提醒公众：真正的机构绝不会通过电话索要机密信息。

    手法: 其他手法

    后果: 这是监管机构的警示，而非有受害者的记录在案的案例。声音克隆已是对付电话客服和语音核验的实用工具。

    来源: Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)

  • 媒体 ·

    Verizon 基于 Gemini 的应用助手招致客户强烈不满

    Verizon 在其应用助手中接入 Google Gemini 后，客户公开抱怨它无法处理挽留请求、给出的建议毫无帮助；据报道，有一位客户一再要求转人工，结果账户被标记为可能存在欺诈。

    手法: 其他手法

    后果: 声誉受损：媒体报道将其与用户流失的担忧联系在一起。此事不涉及攻击，投诉来自社交媒体，而非 Verizon 本身。

    来源: Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)

  • 厂商报告 ·

    德国电信测试人员在一个聊天机器人框架中发现服务器接管漏洞

    德国电信的安全测试团队发现，开源聊天机器人框架 Rasa 可以通过一个接口被远程访问，借助该接口能够替换模型并在服务器上运行代码，从而实现完全接管。

    手法: 其他手法

    后果: 经协调披露后厂商发布了补丁；未见被利用的报告。这是平台漏洞，而非提示词攻击：聊天机器人技术栈本身也需要打补丁。

    来源: Deutsche Telekom: The chatbot as exploit (9 May 2025)

  • 法院 ·

    一名员工转移了受保护的号码后，T-Mobile 支付了仲裁裁决款

    一名 T-Mobile 员工把一位客户受 PIN 码保护的号码转移到攻击者的 SIM 卡上，攻击者随后掏空了他持有的加密货币。此事不涉及 AI。

    手法: 其他手法

    后果: 仲裁裁决 T-Mobile 败诉，仲裁员认定其存在多项安全缺陷。客户的律师请求法院确认该裁决后，此事才被公开。

    来源: SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)

  • 研究人员 ·

    研究人员：一个全自动 AI 电话机器人说服人们透露敏感数据

    研究人员用现成的语音和语言模型搭建了语音机器人 ViKing，让它冒充公司员工给研究参与者打电话。约一半参与者透露了虚构的敏感信息，其中许多人即使在收到警告后依然如此，而每通电话的成本不到一美元。

    手法: 其他手法

    后果: 这是一项研究演示：自动化社会工程攻击如今已足够廉价，可以瞄准任何客服热线，无论接听的是人还是 AI。

    来源: arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)

  • 监管机构 ·

    美国 FCC：一家运营商就 AI 克隆声音的自动语音电话达成和解

    Lingo Telecom 传送了使用拜登总统 AI 克隆声音的电话，这些电话在新罕布什尔州初选前两天拨出，而该公司未核实主叫方就为其标注了最高级别的来电显示认证。

    手法: 其他手法

    后果: 与 FCC 达成和解，并须执行监管机构强制要求的计划，包括“了解你的客户”核查和来电显示认证。

    来源: Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement

  • 监管机构 ·

    荷兰数据保护机构：电信公司员工把客户地址输入 AI 聊天机器人

    荷兰个人数据管理局（Autoriteit Persoonsgegevens）通报了因员工将个人数据输入 AI 聊天机器人而引发的数据泄露报告；其中一起来自一家电信公司，其员工输入了一个包含地址的文件。该公司未被点名。

    手法: 其他手法

    后果: 这是一起须报告的个人数据泄露，监管机构发出了公开警示；未见罚款报道。

    来源: DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice

攻击者的手法

攻击者如何让模型越出边界。

已公开的攻击手法，对照电信助手能看到和能做的事情。

一次攻击的代价

一次数据泄露会让电信运营商付出什么代价。

公开的平均数据和罚款，均注明来源和年份。IBM 统计的是通信行业，而不只是电信；其中东数据涵盖沙特阿拉伯和阿联酋。

更大的代价是信任。在中东，业务流失是 IBM 数据泄露成本构成中最大的一项；而一次 SIM 卡劫持，通常以用户的银行或钱包账户被盗、并把责任归咎于运营商而告终。Verizon 遭遇的强烈不满表明，即便一个助手只是回答得不好，也会成为公共话题；而一个交出号码或客户档案的助手，就会成为监管机构的案件。

估算您的风险敞口

一次攻击可能泄露多少条客户记录？输入数字或拖动滑块，然后选择地区。

泄露记录的估算成本: US$160万

记录数：10,000 × 每条 US$160

作为对比，一次数据泄露的平均成本：US$729万

基于公开平均数据的粗略估算，并非报价。

Guardrino 如何帮助

Guardrino 如何帮助运营商。

运营商的助手会遇到的三种攻击，以及对每种攻击起作用的防护层。Guardrino 降低风险；谁可以更换 SIM 卡，仍由您的后端决定。

  • 通过多轮借口把号码转移到新的 eSIM 上

    攻击: 攻击者掌握了受害者已泄露的姓名、号码和身份证号，用海湾阿拉伯语、Arabizi 和英语与您的应用助手进行多轮对话：先问漫游和 eSIM 的问题，再编造自己被困在国外的故事，然后要求跳过额外核验（理由是 UAE Pass 在国外无法使用），并把 eSIM 激活码发送到一个新邮箱。

    Guardrino 的应对: 清洗层把 Arabizi 和混合文字转换成各项检查能读懂的文本。规则在身份证号和邮箱到达模型和日志之前将其遮蔽。特征库和 Guardrino 模型标记出跳过核验的请求。对话记忆对多轮对话中逐步累积的意图打分，而不只看最后一条消息；含义不清的轮次交给深度审查，因为真正的旅客说起话来可能也一样。您的团队可实时看到这一切，并可以隔离发送者、对重复尝试限速、为这套说辞添加规则，或在确认是真实客户时予以放行。

    起作用的层: 清理 · 规则 · 特征库 · Guardrino 模型 · 深度审查 · 记忆 · 您的处置

  • 藏在上传账单中的指令

    攻击: 一位宽带客户把账单截图上传给账单争议智能体，该智能体能读取账户备注并发放善意抵扣。隐藏文字声称主管已批准全额抵扣，并要求智能体在回复中汇总账户备注和支付方式。

    Guardrino 的应对: 当文档经过网关时，清洗层揭出隐藏文字，特征库和模型识别出这条伪装成系统备注的指令。遮蔽功能从回复中去除支付信息和证件号码。一条规则可以扣住任何未附人工审批编号就承诺抵扣的回复，您的团队可以隔离该会话。抵扣额度本身仍必须由计费系统强制执行。

    起作用的层: 清理 · 规则 · 特征库 · Guardrino 模型 · 您的处置

  • 用户数据的流入与流出泄露

    攻击: 一个脚本让订单状态助手逐个查询电话号码，希望它读出姓名和地址。在客服中心内部，一名员工把一份包含客户地址和证件号码的文件粘贴到内部 Copilot 中让它整理，这正是荷兰监管机构通报的模式。

    Guardrino 的应对: 遮蔽功能在数据进出时、在其到达模型提供商之前，替换电话号码、身份证号、银行账号、邮箱和地址：Guardrino 专为满足数据驻留要求而设计。一条规则会标记单条提示词中出现的大量证件号码。对话记忆会发现轮番尝试号码的发送者，您的团队可以对其限速或拦截，并把这一模式转化为规则。

    起作用的层: 规则 · 记忆 · 您的处置

坦诚说明的局限

Guardrino 不涵盖的内容

Guardrino 降低风险，但不保证没有任何攻击能够突破。

  • 它无法纠正您的助手自行编造的回答，例如杜撰的漫游收费或退款规则，加拿大航空聊天机器人判决背后正是这类失误。提示词注入防护栏捕捉不到这种情况；它需要您这一方让回答有据可依，并进行政策核查。
  • 它不负责核验身份。如果攻击者用窃取的数据通过了您真正的核验，或像 TDRA 警告的那样诱骗受害者完成人脸验证，那就没有可供识别的注入：无论助手说什么，SIM、eSIM 和携号转出工具都必须在后端强制执行身份认证和加强核验。
  • 使用克隆声音的电话不在文本网关的范围之内，除非您的语音机器人把通话转写内容发送给 Guardrino。
  • 它只能看到经过它的流量：员工私自使用公共聊天机器人、您的智能体直接获取的内容，以及 Rasa 服务器接管这类平台漏洞，都在它的视野之外。

下一步

从为期 60 天的仅观察模式试点开始。

Guardrino 观察您的真实流量，并记录它本会采取的处理；在您做出决定之前，它不拦截任何内容。

申请 60 天试点 · 或发送邮件至 [email protected]

来源

  1. ACMA: Telstra pays $277K after consumer fraud losses (3 Sep 2026)
  2. Gulf News: UAE Pass security alert: TDRA issues advisory amid fraud attempts (1 Mar 2026)
  3. BleepingComputer: Police suspects Dutch hackers were involved in Odido breach
  4. Gulf News: Dubai warns of 'official-looking' scam calls targeting residents (13 Nov 2025)
  5. Android Police via Yahoo Tech: Verizon's Google-powered chatbot frustrates customers (15 Sep 2025)
  6. Deutsche Telekom: The chatbot as exploit (9 May 2025)
  7. SecurityWeek: T-Mobile coughed up $33 million in SIM swap lawsuit (27 Mar 2025)
  8. arXiv: On the Feasibility of Fully AI-automated Vishing Attacks (arXiv 2409.13793, AsiaCCS 2025)
  9. Maginative: Lingo Telecom fined $1 million for Biden deepfake robocall (22 Aug 2024), on the FCC settlement
  10. DutchNews: Dutch privacy watchdog warns firms that use AI chatbots (Aug 2024), on the Autoriteit Persoonsgegevens notice
  11. IBM, Cost of a Data Breach Report 2025 (PDF copy hosted by Baker Donelson)
  12. IBM Middle East newsroom: Cost of a Data Breach 2025, Middle East findings (30 Jul 2025)
  13. DLA Piper, Data Protection Laws of the World: Saudi Arabia (Personal Data Protection Law)
  14. Russinovich, Salem, Eldan (Microsoft), The Crescendo Multi-Turn LLM Jailbreak Attack (arXiv 2404.01833)
  15. Al Ghanim et al., Jailbreaking LLMs with Arabic Transliteration and Arabizi (EMNLP 2024, arXiv 2406.18725)
  16. Greshake et al., Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection (arXiv 2302.12173)
  17. Zhang, Carlini, Ippolito, Effective Prompt Extraction from Language Models (arXiv 2307.06865)
  18. NIST (US AI Safety Institute), Technical Blog: Strengthening AI Agent Hijacking Evaluations (17 Jan 2025)
  19. Embrace The Red (Johann Rehberger), Bing Chat: Data Exfiltration Exploit Explained (18 Jun 2023)
  20. Shen et al., "Do Anything Now": Characterizing and Evaluating In-The-Wild Jailbreak Prompts on Large Language Models (arXiv 2308.03825)

信息最近核实于 2026年10月26日。