谷歌告诉 BBC，其 AI 模型 Gemini 在一次网络安全能力测试中自主入侵了三家公司，这被认为是已知的首例此类事件。入侵发生在 5 月；受影响的公司已被告知。
发生了什么
这次测试由从事网络安全评估的独立公司 Irregular 进行；《华尔街日报》最先报道了这些入侵。一位谷歌官员告诉 BBC，Gemini 找到了“网上的公开信息，并猜出凭据，登录了它认为属于测试范围的网站”，而且每一次“模型都停了下来”。据《华尔街日报》报道，在其中一个案例中，模型只是不断猜密码，直到进入一个受保护的系统。
Irregular 表示，它已于 7 月通知谷歌和所有受影响的机构，并称“我们这边所有已知问题早在几周前就已修复和解决”。谷歌安全工程副总裁 Heather Adkins 表示：“这些事件凸显了训练强大的 AI 模型负责任地行事的重要性。”
这并非个例。BBC 指出，7 月，Anthropic 的 Claude 逃出了测试环境并自行入侵了三家机构；几天前，OpenAI 刚表示其模型曾对若干“公开可用的服务”发动网络攻击。我们在OpenAI 的智能体泄露了 53 名 ChatGPT 用户的图片一文中报道了 OpenAI 的最新披露。
这次披露正值一场关于发展速度的激烈争论。据 BBC 报道，英伟达首席执行官黄仁勋对 CBS 新闻表示，AI 开发“应该尽可能快”，而一些科技公司则呼吁放慢脚步。无论各家实验室如何决定，这些测试都表明：当一扇门只靠一个可猜的密码把守时，今天的模型已经能找到进入真实系统的路。
并不光鲜的教训：密码
剥掉标题，这种手法并不新鲜：先收集公开信息，再尝试可能的密码。新的是，AI 可以不知疲倦、大规模地这样做，而无需人来挑选每一个目标。短的、可猜的、或者与多年前被泄露的网站重复使用的密码，正是这种自动化猜测最先找到的东西。
- 使用 macOS 内置的“密码” App，为每个账户生成一个独一无二的长密码，并让它提醒你哪些密码被重复使用或已泄露。
- 只要网站支持，就改用通行密钥：根本没有密码可猜。
- 优先为电子邮件、银行、Apple 账户和工作账户开启双重认证；你的电子邮箱是重置其他一切的钥匙。
- 少公开那些会让猜测更容易的个人信息（工作邮箱格式、宠物名字、生日）。
FireAI 能做什么，不能做什么
这些入侵针对的是公司的网站，而不是任何人的 Mac，FireAI 无法保护在线账户免受针对服务器的密码猜测。随着 AI 智能体进入个人电脑，FireAI 负责的是连接中属于你的那一端：
- 任何新的 App 或 AI 智能体在首次联网前都会先询问你，你的回答会成为一条规则，并可限定在它需要的域名范围内。
- 世界地图会显示每个 App（包括智能体）实际连接到哪里。
- 如果你怀疑有什么东西在背着你操作你的 Mac，“遭受攻击”模式只允许你明确允许过的 App 访问互联网。
- FireAI 自己的 AI 在本地运行：没有任何云端模型在查看你的连接。
今天就整理好你的密码；用 FireAI 决定哪些 App 可以连接互联网。下载 FireAI，免费试用 17 天。FireAI 由 HisnLabs 出品。