简介
美国政府以国家安全为由,勒令 Anthropic 全球下架其最先进的 Fable 5 和 Mythos 5 模型。此举发生在模型发布仅三天后,据报源于亚马逊 CEO 向政府报告的安全隐患。Anthropic 虽已遵令执行,但公开质疑该决定的合理性,警告若此标准推广至全行业将冻结前沿 AI 开发。
史无前例的政府干预
6 月 12 日下午 5 点 21 分,AI 安全研究公司 Anthropic 收到了一份来自美国政府的出口管制指令。这份援引国家安全权限的命令要求该公司立即暂停所有外国公民对其 Fable 5 和 Mythos 5 模型的访问,包括 Anthropic 自己的外籍员工。
由于 Anthropic 无法实时可靠地区分外国公民和本国用户,该公司被迫对全球所有客户硬性关闭这两个模型。这标志着美国政府首次强制下架商业 AI 产品,为 AI 监管开创了一个引发争议的先例。
Anthropic 在官方声明中表示已遵守该指令,但同时明确表达了对这一决定的质疑。公司警告称,如果这一标准在全行业推广,将实质性冻结所有前沿模型的部署。这一罕见的公开反对姿态,凸显了 AI 公司与监管机构之间日益紧张的关系。
从发布到召回:仅仅三天
Fable 5 于 6 月 9 日发布,是 Anthropic 首个向公众开放的 Mythos 级模型。作为 Mythos 5 的公开版本,Fable 5 配备了安全分类器,会将标记的高风险请求路由到功能较弱的 Claude Opus 4.8 模型处理,以防止在网络安全和生物安全等敏感领域的滥用。
而 Mythos 5 则是同一底层模型去除网络安全防护的版本,仅限于经过审查的网络安全防御者和关键基础设施运营商使用。Anthropic 早在 4 月就预览了 Mythos,但因其在安全漏洞发现方面的卓越能力而一直严格限制访问。据该公司称,Mythos 在测试的每个主流操作系统和网络浏览器中都发现了漏洞。
根据 AI 技术性能追踪公司 Vals AI 的基准测试,Fable 5 立即成为公开可用的最强 AI 模型。然而,这一技术成就仅维持了三天。从发布到全球召回,Fable 5 创下了商业 AI 产品最短生命周期的记录。
亚马逊的关键角色
据《华尔街日报》报道,亚马逊 CEO Andy Jassy 在政府采取行动前向财政部长 Scott Bessent 和其他政府官员报告称,亚马逊研究人员使用 Fable 5 获取了可用于网络攻击的信息。这一报告似乎直接导致了政府随后对 Fable 5 和 Mythos 5 实施的出口管制禁令。
亚马逊发言人在声明中表示,虽然政府就潜在安全风险征求我们的意见并不罕见,但公司不会分享这些讨论的细节。作为 Anthropic 的主要投资者,亚马逊在此事件中的角色引发了业界对投资者与被投资公司之间利益冲突的讨论。
前特朗普 AI 事务负责人、现任总统科学技术顾问委员会联合主席 David Sacks 提供了自己的说法。他声称 Anthropic 和美国政府双方都高度信任的合作伙伴主动提出了一个越狱方法,政府要求 Anthropic CEO Dario Amodei 修复越狱漏洞或下架模型,而 Amodei 拒绝了。
Anthropic 的反击与行业影响
Anthropic 在博客文章中反驳称,引起政府关注的能力在其他公开可用的模型中已经存在。公司认为,单一的越狱漏洞不应导致整个商业模型的召回,这一标准如果普遍应用,将使任何前沿 AI 模型都无法部署。
这一立场得到了部分 AI 研究社区的支持。批评者指出,如果每次发现安全漏洞都要求完全下架模型,那么 AI 开发将陷入停滞。他们认为,更合理的做法是要求公司修补漏洞并加强安全措施,而非一刀切地禁止访问。
然而,支持政府行动的观点认为,在 AI 能力快速提升的背景下,预防性监管是必要的。特别是在网络安全和生物安全等高风险领域,任何可能被恶意利用的漏洞都可能造成严重后果。
此次召回对 Anthropic 的商业影响立竿见影。事件发生时,该公司刚刚在数日前提交了 IPO 申请。据报道,Anthropic 的 pre-IPO 股价随即下跌,投资者对 AI 监管不确定性的担忧加剧。这也为其他计划上市的 AI 公司敲响了警钟。
监管新时代的到来
这一事件标志着 AI 监管进入了一个新阶段。过去,政府对 AI 的干预主要集中在制定指导方针和自愿性标准上。而此次强制下架商业产品的行动,显示出监管机构正在采取更加主动和强硬的立场。
出口管制的使用尤其值得关注。传统上,出口管制主要针对硬件和专用软件。将其应用于通用 AI 模型,开创了一个新的监管范式。这种做法的法律基础和实施细节仍不明确,可能引发一系列法律挑战。
对于 Web3 和加密行业而言,这一事件也具有警示意义。随着 AI 技术在区块链应用、智能合约审计和去中心化系统中的作用日益重要,AI 监管的收紧可能间接影响这些领域的创新。特别是对于依赖先进 AI 能力进行安全审计和风险管理的机构级钱包和托管服务提供商,需要密切关注监管动向,确保合规性。
技术安全与创新平衡的挑战
Anthropic 一直以其对 AI 安全的重视而闻名。公司采用的宪法 AI 方法,旨在通过设定明确的价值观和行为准则来训练更安全的模型。然而,此次事件表明,即使是最注重安全的 AI 公司,也难以满足监管机构日益严格的要求。
这引发了一个根本性问题:在快速发展的 AI 领域,如何在技术创新与安全监管之间找到平衡?过于宽松的监管可能导致安全风险,而过于严格的限制则可能扼杀创新,甚至将技术优势拱手让给监管较松的地区。
一些专家建议采用更加细致的监管方法,例如根据模型的具体能力和应用场景进行分级管理,而非一刀切地禁止或允许。这种方法可能更加灵活,但也需要监管机构具备足够的技术能力来评估和监督。
展望未来
Anthropic 事件可能只是开始。随着 AI 能力的持续提升,类似的监管干预可能会变得更加频繁。AI 公司需要在产品开发的早期阶段就将监管合规性纳入考虑,而不能仅仅依赖事后补救。
对于整个科技行业而言,这一事件凸显了与政府建立更加透明和建设性对话机制的重要性。单方面的监管行动和被动的合规,都不是长期可持续的模式。只有通过行业与监管机构的共同努力,才能在保障安全的同时促进创新。
此次召回事件也提醒我们,在 AI 时代,技术能力的边界与社会可接受性的边界并不总是一致。如何在推动技术前沿的同时,确保技术发展符合公共利益和安全要求,将是未来 AI 治理面临的核心挑战。对于所有参与 AI 生态系统的企业和机构而言,理解并适应这一新的监管环境,将是在这个快速变化的领域中保持竞争力的关键。
Source: 链接