简介
特朗普政府以国家安全为由要求 Anthropic 禁用其最先进的 Fable 5 和 Mythos 5 AI 模型,导致该模型发布仅四天即被下线。约 100 名网络安全专家联名抗议该禁令,认为此举对防御者的伤害大于对黑客的遏制,凸显 AI 行业监管的不确定性和订阅制服务的潜在风险。
突发禁令震动 AI 行业
6 月 12 日,美国商务部向人工智能公司 Anthropic 发出一份出口管制指令,要求该公司立即限制其最先进的 Fable 5 和 Mythos 5 AI 模型的访问权限,禁止非美国公民(包括 Anthropic 自身的外籍员工)使用这些模型。该指令援引了一项鲜为人知的出口管制条款,并以未明确的国家安全担忧为由实施限制。
面对政府的强制要求,Anthropic 选择向全球所有用户暂停这两款模型的访问,以确保合规。这意味着这两款于 6 月 9 日刚刚发布的最新模型,在上线仅四天后就被迫下线。这一事件不仅震动了 AI 行业,也引发了关于政府监管权力边界、AI 服务稳定性以及订阅制商业模式风险的广泛讨论。
值得注意的是,这次政府干预行动的执行速度和单方面性质令人瞩目。根据 TechCrunch 的报道,商务部的这封信函似乎不需要法院批准即可生效,这意味着政府能够迅速且单方面地迫使一家科技公司下线其产品。这对整个科技行业来说是一个警示:在当前的监管环境下,合规不再是可选项,而是生存的必要条件。
网络安全专家的强烈反对
这一禁令迅速引发了网络安全界的强烈反弹。截至目前,已有约 100 名网络安全专家联名发表公开信,要求美国政府取消对 Anthropic 模型的出口管制令。这些签名者包括多位行业资深人士,如前 Facebook 首席安全官 Alex Stamos、漏洞赏金平台 Bugcrowd 创始人 Casey Ellis、知名密码学家兼前苹果安全设计与架构经理 Jon Callas、计算机科学家 Paul Vixie、Block 前应用安全工程主管 Dino Dai Zovi、Luta Security 创始人 Katie Moussouris,以及安全意识培训公司 SocialProof Security 首席执行官 Rachel Tobac 等。
在公开信中,这些专家明确指出:这一行动剥夺了网络安全防御者使用最佳模型的能力,使他们无法利用这些工具来发现漏洞并提高软件和产品的安全性。公开信强调:在我们的对手正在快速进步的情况下,在没有充分理由的情况下将最佳能力从防御者手中夺走是危险的。
Anthropic 在今年 4 月推出 Mythos 预览版时曾声称,该模型在发现安全漏洞方面能力极强,公司需要严格限制访问权限,以防止恶意黑客或外国对手利用它在互联网上造成破坏。实际操作中,Anthropic 最初仅向约 50 家公司提供 Mythos 访问权限,最近才将这一范围扩大到约 100 家。然而,政府的禁令使得即便是这些经过审核的安全防御者也无法继续使用该工具。
网络安全专家们认为,这一禁令的实际效果可能适得其反。虽然政府的初衷可能是防止恶意行为者利用先进 AI 模型进行攻击,但实际上,这些模型对于发现和修补安全漏洞至关重要。剥夺防御者使用这些工具的能力,可能会让整个网络生态系统变得更加脆弱,而真正的攻击者往往能够通过其他途径获取类似能力。
政府与 Anthropic 的紧张关系
根据多家媒体报道,Anthropic 的高级技术人员计划于周一在华盛顿与商务部官员举行会议,试图解决这场不断升级的危机。路透社和彭博社确认了这次会议,但双方均未对预期结果发表评论。然而,从周末期间多家媒体的报道中拼凑出的幕后情况,对各方都不太有利。
Axios 在周日援引一位政府官员的话称:每个人都说 Anthropic 是一个不良行为者,尽管如此,一些人还是主张给该公司一个机会。现在那些人正在质疑这一决定,该官员表示,他们搞砸了我们。
熟悉讨论情况的消息人士告诉 Axios,Anthropic 在与政府沟通方面遇到了困难。就像他们只是用不同的语言说话,一位消息人士表示。Fox Business 的一份报告援引一位高级官员的话,称 Anthropic 对已知漏洞的处理是鲁莽的,损害了政府的信任。据报道,政府曾在产品发布前敦促该公司暂停发布,但 Anthropic 拒绝了这一要求。
这种紧张关系的根源似乎不仅仅是技术问题。Axios 的消息来源描述了周末期间 Anthropic 与特朗普政府之间的紧张局势,称导致出口指令的是两大主要参与者之间的性格差异,而非 AI 产品的技术问题。这表明,除了技术和安全考虑之外,人际关系和沟通方式也在这场危机中扮演了重要角色。
禁令的技术背景与争议
尽管政府援引国家安全理由实施禁令,但具体的技术原因仍未公开。Anthropic 表示,该公司认为这封信函可能与模型安全防护被绕过有关,但由于信函未提供具体细节,公司也无法确定。这封信函尚未公开,进一步增加了整个事件的不透明性。
网络安全资深人士、Luta Security 创始人 Katie Moussouris 在一篇博客文章中透露,Anthropic 最近与她分享了一份关于模型漏洞的私人报告副本。这表明 Anthropic 至少在某种程度上意识到其模型存在的潜在安全问题,并试图与安全研究人员合作解决这些问题。然而,政府似乎认为这些努力还不够,或者处理方式存在问题。
TechCrunch 的报道指出,周末期间出现的新细节进一步质疑了政府本已不稳固的理由。如果禁令的真正原因是技术漏洞,那么为什么不公开具体细节,让行业和公众能够理解和评估这一决定的合理性?如果原因是沟通不畅和信任问题,那么这是否是实施如此严厉措施的充分理由?
对 AI 行业和订阅服务的影响
这一事件对整个 AI 行业产生了深远影响,尤其是在商业模式和服务稳定性方面。Anthropic 的竞争对手 Cohere 表示,在事件发生后收到了大量客户咨询。这反映出企业客户对 AI 服务稳定性和可靠性的担忧:如果一家领先的 AI 公司的最新模型可以在几天内被政府强制下线,那么依赖这些服务的企业如何确保业务连续性?
对于采用订阅制商业模式的 AI 服务提供商来说,这一事件尤其令人警醒。订阅制模式的核心承诺是持续、稳定的服务访问,但政府的单方面干预表明,这种承诺可能在监管压力下变得脆弱。企业客户在选择 AI 服务提供商时,可能需要考虑更多的风险因素,包括监管合规性、政府关系,以及服务提供商应对监管压力的能力。
从更广泛的角度看,这一事件凸显了 AI 行业面临的监管不确定性。虽然各国政府都在努力制定 AI 监管框架,但具体的执行方式、标准和程序仍不明确。这种不确定性使得 AI 公司难以预测和规划,也可能抑制创新和投资。
对数字资产行业的启示
虽然这一事件发生在 AI 领域,但对数字资产和区块链行业同样具有重要启示。数字资产行业长期以来一直面临监管不确定性,许多公司和项目都经历过类似的政府干预和限制。Anthropic 事件表明,即使是在传统科技领域,政府也拥有迅速且单方面关闭产品或服务的权力。
对于提供数字资产托管、钱包或其他基础设施服务的公司来说,这一事件强调了合规性和政府关系的重要性。虽然去中心化和抗审查是区块链技术的核心价值主张之一,但在实际运营中,大多数提供用户友好服务的公司仍需要与监管机构保持良好关系,并确保其服务符合当地法律法规。
同时,这一事件也提醒用户和企业,在选择服务提供商时需要考虑监管风险。无论是 AI 服务还是数字资产服务,过度依赖单一提供商或中心化服务都可能带来风险。多元化、去中心化,以及对服务提供商的监管合规能力进行尽职调查,都是降低风险的重要策略。
未来展望
随着 Anthropic 与商务部的会议即将举行,这场危机的走向仍不明朗。可能的结果包括:政府取消或修改禁令,允许 Anthropic 在满足特定条件下恢复服务;双方达成某种妥协,例如对模型访问实施更严格的控制或审查机制;或者禁令继续生效,迫使 Anthropic 重新设计其产品和服务策略。
无论结果如何,这一事件都将对 AI 行业产生持久影响。它提醒所有科技公司,在当前的监管环境下,技术创新必须与合规性和政府关系管理并重。它也提醒用户和企业,在选择和依赖科技服务时,需要充分考虑监管风险和服务稳定性。
对于整个科技行业来说,这一事件可能成为一个转折点,促使行业、政府和公众就 AI 治理、出口管制和国家安全之间的平衡展开更深入的讨论。如何在保护国家安全的同时促进创新,如何在监管的同时避免过度干预,这些都是需要各方共同探索的重要问题。
Source: 链接