FireAI 安全博客

作者 FireAI Security & Research Team · 发布于

Roblox 和 Discord 上的隐藏风险:写给家长的指南

Roblox 和 Discord 上的隐藏风险:写给家长的指南

Roblox 及类似平台并非天生危险,绝大多数在上面玩的孩子也从未被心怀不轨的人接触过。但平台自身的规模——数亿个基本匿名的账号,其中许多属于儿童——已使它成为有据可查的目标,被那些想接触未成年人的人盯上;相关报道足够具体,值得认真对待。

有哪些事实已被记录在案

《彭博商业周刊》2024 年的调查指出,Roblox 上反复出现的安全失误,与其严重依赖自动化 AI 审核系统有关,再加上平台允许用户彼此之间基本保持匿名。自 2025 年 1 月以来,美国警方已逮捕至少六人,他们被控利用 Roblox 接触并性剥削儿童,包括胁迫未成年人制作露骨内容。

Roblox 还面临一项 1200 万美元的和解协议,用于资助青少年项目和与执法部门的协作;平台并从 2026 年 1 月起,在全球范围内对所有平台内通讯强制实行年龄验证——这是对多年来正是围绕这一问题的压力做出的直接回应。

真正有用的做法

  • 把聊天和好友请求设置限定为孩子在现实生活中已经认识的人——在孩子玩的每一款游戏里都这样做,而不只是 Roblox。
  • 如果陌生人想把对话转移到平台之外(Discord、聊天软件、电话号码),要把它当作严重的警示信号,而不是网络交友的正常环节。
  • 不只谈规则,也要谈手法:在网上盯上孩子的成年人通常会用几周时间慢慢建立信任,然后才提出任何要求。
  • 用好平台自带的家长控制和年龄验证功能——它们正是因为上述事件才存在的。

FireAI 和 HisnLabs 在其中扮演的角色

FireAI 无法读取聊天消息,也无法查看屏幕——而且它也不应该这样做:这不是防火墙的职责,任何声称能监视孩子聊天的应用本身就带来隐私隐患。它能展示的是:Mac 上哪些应用和游戏在孩子早已停止游戏之后,仍在后台不断向外连接。

FireAI 是 HisnLabs 自己的产品:一款直接在 Mac 上运行的 AI 防火墙。它用通俗易懂的语言显示你的应用建立的每一个连接,并让你决定哪些数据可以离开你的 Mac——它的 AI 在本地运行,因此你的流量永远不会发送给我们或任何其他人。HisnLabs 的安全研究团队负责让这些判断保持准确:归类哪些域名只是普通的遥测、哪些属于真正的服务,追踪连接背后的国家和网络,并用真实的流量模式训练设备端模型(Autopilot 功能)——这一切都不会离开你的 Mac。

你可以阅读它背后的技术决策,或试用 FireAI 17 天:HisnLabs 出品的 FireAI。

来源