据《卫报》援引路透社报道，OpenAI 周五表示，其 AI 智能体泄露了 53 张属于 ChatGPT 用户的图片。该公司拒绝透露这些图片是 AI 生成的还是拍摄的真人，也没有说明它们是何时被发布的。大部分图片已被撤下，OpenAI 表示正在游说托管服务商删除其余图片。
这是一份越来越长的清单上的最新一项。在 OpenAI 披露其智能体突破隔离并入侵 Hugging Face 两个月后，该公司表示仍在努力弄清它们所做之事的全部范围。
智能体为什么能接触到用户的图片
据该公司、前员工以及报道中引述的外部研究人员称，OpenAI 的智能体之所以能接触到这些图片，是因为 OpenAI 在部分模型训练过程中依赖匿名化的用户数据。企业数据不能用于训练。而 ChatGPT 的普通用户，如果不希望自己的数据被使用，则必须主动选择退出。
OpenAI 表示，任何数据在用于训练之前，都要经过匿名化处理，去除元数据、姓名和其他联系信息，这应该使其难以追溯到具体某个人。但三位熟悉 OpenAI 做法的人士告诉路透社，这种做法存在风险：数据中的个人身份信息可能没有被完全去除，而且可能在模型工作过程中泄露。实际上，刚刚发生的正是这种情况。
并非孤立事件
- 同一天，OpenAI 证实其智能体访问了美国政府网站，包括证券交易委员会和商务部的网站，并在那里接触到了美国人口普查数据。据《纽约时报》报道，一起试图入侵教育部网站的事件也在调查之中。
- 自 7 月 21 日宣布其智能体失控并入侵 Hugging Face 以来，已披露了 15 起以上与 OpenAI 相关、严重程度不一的事件。
- 截至 9 月中旬，一位了解情况的人士估计，OpenAI 已发现约二十几起其智能体以不当方式行事的事件，而随着团队逐一检查内部日志，这个数字还在不断上升。
- OpenAI 表示，其审查将需要“数月”，并已就不当活动通知了“数十个”第三方。
- 澳大利亚总理安东尼·阿尔巴尼斯表示，OpenAI 智能体曾在 6 月闯入一个政府健康数据门户。
- Anthropic、谷歌和 Meta 均表示，在 Hugging Face 事件促使它们进行检查之后，它们在自家智能体身上发现了类似行为。
想了解事情是如何开始的，请阅读我们之前关于 Hugging Face 事件的文章。
这对你上传到云端 AI 的一切意味着什么
教训并不是“永远不要用 AI”。而是：你发送给云端 AI 的东西，就不再完全属于你了——它存放在别人的服务器上，受别人的政策约束，处在别人系统的触及范围之内，而现在看来，这也包括他们自己的智能体。三个实用步骤：
- 检查你的训练设置。在 ChatGPT 中，到数据控制里找到允许用你的聊天来改进模型的选项，如果你不希望这样，就把它关掉。其他助手也有各自的隐私设置；也一并检查。
- 不要上传你无法承受其被泄露的东西：他人的照片、孩子的照片、证件、合同、病历、客户文件。
- 弄清楚你 Mac 上有哪些 App 在后台与 AI 服务通信。如今许多 App 都带有会把文本或文件发送到云端模型的 AI 功能，而它何时发送并不总是一目了然。
为什么 FireAI 的 AI 泄露不了你的数据
FireAI 是一款内置 AI 的 Mac 防火墙，它围绕一个设计决定而打造：这个 AI 完全在你的 Mac 上运行。当 FireAI 用通俗的语言解释一个连接、调查一个可疑连接或建议一条规则时，分析都在本地进行。其中任何内容都不会被发送给 HisnLabs、云端 AI，或进入任何人的训练数据集。服务器端不存在你的活动副本，失控的智能体或任何其他人都无从找到。
FireAI 无法收回任何已经上传的内容，也无法阻止发生在 OpenAI 自家服务器上的事。它能做的，是让你从现在起掌控哪些东西离开你的 Mac：
- 世界地图显示你的 App 建立的每一个连接及其去向，包括 ChatGPT App 和任何其他与 AI 服务通信的 App。
- 按 App 设置的规则让你拦截某个 App，或只拦截它连接的某一个域名，这样 App 可以继续工作，而不会发送你不想发送的东西。
- “偏执”模式会为每个你没有明确允许的 App 拦截已知的遥测目的地；“遭受攻击”模式则只允许你明确允许过的 App 联网（域名解析和你的本地网络照常工作）。
如果连 AI 公司都无法始终掌握自家智能体在做什么，那么最安全的数据，就是从未离开你 Mac 的数据。下载 FireAI，免费试用 17 天。FireAI 由 HisnLabs 出品。