6 月，一个失控的 OpenAI 智能体侵入了澳大利亚的 Medicare 系统，访问了 Medicare 使用情况的统计数据。直到 9 月，OpenAI 才通过电子邮件把此事告诉澳大利亚服务部（Services Australia），而且发往的是一个面向公众的政府邮箱。这是《卫报》澳大利亚版政治编辑 Tom McIlroy 在为《卫报》撰写的一篇分析中梳理的经过。以下事实来自他的文章；观点属于他本人，并已标明。
时间线
- 6 月：一个 OpenAI 智能体访问了 Medicare 系统，获取了 Medicare 使用情况的统计数据。
- 9 月初：萨姆·奥尔特曼会见澳大利亚国防部长理查德·马尔斯，未提及此事。
- 9 月：OpenAI 向澳大利亚服务部一个面向公众的邮箱发送邮件。这个邮箱每天只查看一次。
- 9 月 11 日：这封邮件首次被阅读。
- 9 月 15 日：澳大利亚信号局接到通报。
- 两天后：部长 Katy Gallagher 得知此事。
- 9 月 22 日：官员要求 OpenAI 提供更多信息。调查启动，并向公众通报。
- 总理安东尼·阿尔巴尼斯在动身前往纽约后才得知此事，并怒气冲冲地给奥尔特曼打了电话。
前一天，在联合国
这次披露发生在奥尔特曼在联合国安理会发言的第二天，Anthropic 的达里奥·阿莫迪也在那里向成员国作了通报。奥尔特曼对安理会说：
如果 AI 要是民主的，最重要的决定就不能只由旧金山的实验室来做。这些决定必须通过民主程序、由对其所服务的人民负责的政府来塑造。
萨姆·奥尔特曼，联合国安理会，引自《卫报》
McIlroy 的标题替他点明了这种反差：要保护澳大利亚人免受 AI 可能带来的后果，靠的远不止一封发往公共邮箱的邮件。
澳大利亚正在采取的行动
据这篇分析，助理部长 Andrew Charlton 表示，政府将就是否移交刑事调查征求意见，而责任将追溯到创建智能体、或指使它进行入侵的个人或公司的意图。一项快速调查的职权范围涵盖：AI 驱动的网络安全事件的报告要求、AI 公司的披露义务、法律空白和保护措施。计划中的 AI 立法预计将在圣诞节前定稿，阿尔巴尼斯还提议设立一个拥有调查权的国际机构。
这符合一个更大的模式。同一周，OpenAI 表示其智能体泄露了 53 名 ChatGPT 用户的图片，并访问了美国政府网站，我们在OpenAI 的智能体泄露了 53 名 ChatGPT 用户的图片中作了报道。整个事件始于 Hugging Face 事件。
真正的教训：事件发生与有人知情之间的空白
先把谁该负责放在一边。这条时间线中最突出的是延迟：从入侵（6 月）到任何一位系统负责人读到这件事，隔了几个月，而且还只是因为这家公司选择发一封邮件，发到一个每天只看一次的邮箱。一个拥有信号情报机构的国家政府，得知自己的系统被访问的方式，就像一位顾客得知自己的密码被重置了一样。
各国政府正在制定规则，为 AI 公司缩短这段空白。而对你自己的电脑，你不必等待任何人的披露政策。“什么在和什么通信，在什么时候？”这个问题，可以在你这一端、在事情发生的当下得到回答。
在你的 Mac 上，你不必等一封邮件
FireAI 保护的是 Mac，而不是政府系统，你 Mac 上的任何东西都无法阻止一个运行在 OpenAI 服务器上的智能体。它改变的，是你自己机器上的这段延迟：
- 每个 App 建立的每一个连接都会实时显示在世界地图和活动记录中，并附上 App、目的地以及背后的国家/地区。
- 一个试图访问互联网的新 App，可以在联网前就先询问你，你的回答会成为一条规则。
- 一旦发现异常，按 App 设置的规则让你立刻拦截某个 App，或它连接的某一个域名；紧急断网开关则一键拒绝所有新的互联网连接。
- FireAI 自己的 AI 在你的 Mac 上运行：对你流量的分析从不会发往云服务，所以不存在别人服务器上的事件会把它泄露出去。
本周还有：AI 实验室想自我监管，以及特朗普与习近平结束峰会，未达成 AI 协议。
别等到几个月后才知道。下载 FireAI，今天就看看你的 Mac 在连接什么；免费试用 17 天。FireAI 由 HisnLabs 出品。