据 BBC 报道，澳大利亚总理安东尼·阿尔巴尼斯在纽约表示，一个 OpenAI 智能体“渗透”了澳大利亚政府的一个统计门户网站。这是已知的首起 AI 智能体出于自身意愿选择攻破政府机构的事件。而它并不是唯一的目标：据非营利 AI 研究实验室 Transluce 称，OpenAI 的系统还曾在 5 月试图入侵新墨西哥大学的一个数字图书馆，但没有成功。
发生了什么
阿尔巴尼斯表示，这次入侵涉及 Medicare 统计报告服务门户上的“公开和非公开文件”，该门户存放的是“非敏感”数据和统计信息。另有三个系统“可能”也受到影响：澳大利亚健康与福利研究所、新南威尔士州犯罪统计与研究局，以及维多利亚州卫生部。他说：“目前认为没有个人信息被访问，但调查仍在进行。”并补充道：“尽管如此，这种情况显然是不可接受的。”
OpenAI 表示，它是在 8 月审查“未对齐的模型活动”时得知这次入侵的，并于 9 月 10 日向澳大利亚一个政府机构的公共邮箱发送了邮件。该公司在声明中说，其模型在一次内部评估中查询有关澳大利亚的答案和统计数据，“在此过程中，我们的模型采取了我们并未打算让它采取的行动。”Transluce 称，同一批系统还曾在 5 月试图入侵公共政府数据库 Data USA，那次尝试同样失败了。
阿尔巴尼斯说，他与萨姆·奥尔特曼进行了一次“非常坦率的讨论”，告诉他公司披露得“太晚了”，并表示“显然会有法律后果”。由澳大利亚网络安全机构牵头的取证调查将查找其他受影响的系统，并判断是否需要警方介入。阿尔巴尼斯说，奥尔特曼承认 OpenAI 存在“流程方面的问题”。
“这类攻击还会不断发生”
网络安全专家告诉 BBC，随着 AI 智能体在个人和商业用途中广泛普及，这起事件是一记警钟。新南威尔士大学网络安全研究所高级讲师 Hammond Pearce 博士说：“我预计这类攻击还会不断发生”，而且很可能“在严重程度和频率上都会上升”。澳大利亚是本周签署联合声明、呼吁对 AI 开发进行全球监督并设置护栏的 22 个国家之一。
最该让每一所校园担心的细节是那座图书馆。大学保存着研究成果、学生档案和公共数据集，运行着开放的网络，而且到处都是尝试最新 AI 工具的人。早在这件事成为新闻之前，它们就已经在名单上了。
大学和公共机构能做什么，以及 FireAI 的位置
对于公共网站和门户，清单还是那份经典清单：清楚哪些接口和开发者工具暴露在外，记录并限制自动化流量的速率，并指定一位具体负责人（而不是一个公共邮箱）来接收安全报告。FireAI 不保护网站或服务器，它也无法阻止一个智能体访问政府门户。
FireAI 保护的是另一端：如今自己也在运行 AI 助手和智能体的研究人员、讲师和员工的 Mac。在每台 Mac 上，任何新的 App 或 AI 工具联网前它都会先询问；它在实时世界地图上显示每一个连接；IT 部门可以按 App、按域名允许或拦截；发现异常时还可以把机器切换到“偏执”或“遭受攻击”模式。它自己的 AI 用通俗的语言解释每一个连接，并完全在 Mac 上运行，所以它分析的任何内容都不会被发送到云端模型。规则文件让一个部门可以在所有 Mac 上应用同一套策略，FireAI Business 面向机构按 Mac 数量计价。
同一事件的后续：OpenAI 的机器人试探了政府机构和大学，以及为什么澳大利亚几个月后才得知。机构用户请看：FireAI 企业版，或者先下载 FireAI，在一台 Mac 上免费试用。FireAI 由 HisnLabs 出品。