FireAI 安全博客

作者 FireAI Security & Research Team · 发布于

深度伪造档案:AI 如何从数字碎片中重建你的生活

深度伪造档案:AI 如何从数字碎片中重建你的生活

过去,「数据泄露」意味着一次戏剧性的事件:某家公司的数据库在一夜之间被盗。这种事依然存在,但它已不再是 AI 系统勾勒你画像的主要途径。更常见的路径要安静得多:成百上千个单独看毫不起眼的小碎片——一张带地理标记的照片、一段语音备忘录、LinkedIn 上的一次跳槽、从某个毫不相干的服务泄露的一个密码——它们各自几乎说明不了什么。

为什么碎片现在就足够了

大模型恰恰擅长这项任务:在零散、杂乱的数据中找出规律并填补空白。给一个有能力的模型足够多的公开照片,它就能从背景推断出你住在哪个街区;给它足够多的短音频,它就能把一个人的声音模仿到足以在电话里骗过忧心忡忡的亲属——这正是 FTC 在 2023 年 3 月警告过的骗局:犯罪分子用受害者根本不知道在流传的音频,克隆了一位家庭成员的声音。

从未被「黑」过的账户

这正是这种威胁难以察觉的原因:你 Mac 上不需要有任何一个应用是恶意的,也不需要有任何一次登录被盗,某个地方就可能已经存在一份关于你的详细档案。每个应用只看到它自己收集的那一个碎片——一个位置、一个文件名、一次通讯录同步——完全不知道自己正在为某个更大的东西添砖加瓦。数据的汇聚发生在它离开你的设备之后,发生在你从未选择信任的服务器上。

真正有用的做法

  • 在公开分享照片之前,先去掉位置数据(EXIF 元数据)——大多数照片应用都有一键完成的选项。
  • 把一通突如其来、催促你马上行动的语音电话——哪怕声音听起来分毫不差——当作挂断并用已知号码回拨的理由,而不是立刻照办的理由。
  • 最要紧的碎片,是那些你从未看见它们流出的碎片:知道哪些应用在悄悄发送数据、发给了谁,是在它们汇成一份档案之前堵住这个缺口的唯一办法。

FireAI 和 HisnLabs 在其中扮演的角色

这一切并不需要一次大规模泄露——它需要的是一百次小泄露,就是每当某个应用悄悄把一张照片的位置、一次登录的时间戳或一台设备的指纹回传时发生的那种。

FireAI 是 HisnLabs 自己的产品:一款直接在 Mac 上运行的 AI 防火墙。它用通俗易懂的语言显示你的应用建立的每一个连接,并让你决定哪些数据可以离开你的 Mac——它的 AI 在本地运行,因此你的流量永远不会发送给我们或任何其他人。HisnLabs 的安全研究团队负责让这些判断保持准确:归类哪些域名只是普通的遥测、哪些属于真正的服务,追踪连接背后的国家和网络,并用真实的流量模式训练设备端模型(Autopilot 功能)——这一切都不会离开你的 Mac。

你可以阅读它背后的技术决策,或试用 FireAI 17 天:HisnLabs 出品的 FireAI。

来源