安全与人工智能新闻

美中峰会与人工智能 · 作者 FireAI Security & Research Team · 发布于

特朗普与习近平结束峰会,未达成 AI 协议。高层没有人在放慢脚步

美中峰会结束,未就 AI 达成重大协议。双方都在加速前进,AI 智能体正走进每一台设备,而掌控权要从你自己的 Mac 开始。

Illustration: a globe with two map pins joined by a dotted line, next to the words “No AI deal. Nobody is slowing down.”

据《卫报》报道,美国与中国之间为期三天的国事访问于周五结束,未就人工智能达成重大协议。这次峰会最大的成果,是两国贸易休战延长两个月。

双方怎么说

中国国家主席习近平表示,两国有“发展和管理好 AI、使其造福人类的责任”,并应“确保 AI 的发展始终处于人类控制之下”。报道称,中国已为自己设定目标:到 2030 年,新一代智能终端和 AI 智能体的普及率超过百分之九十。

唐纳德·特朗普总统则力推把 AI 重新定名为“超级智能”。该报指出,多位美国科技界领袖出席了国宴,其中包括埃隆·马斯克、AMD 的苏姿丰、英伟达的黄仁勋和苹果的蒂姆·库克;他们的中国同行并未出席。

观察人士的期待,与他们得到的结果

一些人曾期待更多。曾提议两国成立技术工作组、并暂停自我改进型 AI 的众议员 Ro Khanna 对《卫报》说:“这本来是一记送分球。”

他们似乎唯一达成共识的,就是谁都不想在这项技术上放慢脚步。

布鲁金斯学会 Jonathan Czin,引自《卫报》

两位领导人预计将于 11 月在深圳 APEC 峰会、12 月在 G20 峰会上再次会面,这个问题还会再被提起。目前,两个最大的 AI 强国之间还没有共同的规则。

为什么这关乎你的桌面,而不只是北京和华盛顿

撇开地缘政治不谈,这次峰会清楚地表明了一点:世界上两个 AI 超级大国都不打算放慢脚步,其中一方还明确提出,到 2030 年新一代智能终端和 AI 智能体的普及率要超过百分之九十。与此同时,AI 实验室自己正在争论是否要协调步调——我们在AI 实验室想自我监管中报道过;它们也在披露做出了无人预料之事的智能体,例如OpenAI 的智能体泄露了 53 名 ChatGPT 用户的图片。

AI 智能体是代表你行事的软件:它会阅读、书写、点击和连接。在电脑上,这意味着 App 和后台进程会去连接你可能从未听说过的服务器。无论下一次峰会达成什么、或者什么都没达成,实际可用的控制层,就是你面前这台设备。

用 FireAI 在设备层面掌控

FireAI 是一款 Mac 防火墙,把这种控制权交到你手中,无需相信任何政府或公司的承诺:

  • 任何 App(包括 AI App 或智能体)首次连接互联网前,它都会先询问你,并把你的回答记为一条规则。(在“居家”模式下,Apple 自己的系统工具会被自动允许;在“偏执”模式下,它们必须像其他 App 一样经过批准。)
  • 世界地图显示每一个连接去往哪里,所以 AI App 的流量不再隐形。
  • 按 App 设置的规则和安全模式(居家、咖啡店、偏执、遭受攻击)让你决定 Mac 应该有多严格:从询问新 App,到只允许你明确批准过的 App。
  • FireAI 自己的 AI 在你的 Mac 上运行,而不是在任何国家的服务器上,它分析的内容永远不会离开这台机器。

峰会还会继续。你的 Mac 连接什么,由你决定。下载 FireAI,免费试用 17 天。FireAI 由 HisnLabs 出品。

来源