
简介
Anthropic首席执行官达里奥·阿莫代伊呼吁行业放缓前沿模型能力提升,并提出由具备内部权限的第三方评估团队持续审查模型安全。OpenAI首席执行官萨姆·奥特曼表示将跟进这一承诺,但相关倡议也引发了对竞争法、监管责任与执行标准的讨论。
从“加速能力”转向“控制节奏”
Anthropic首席执行官达里奥·阿莫代伊近日呼吁人工智能行业放缓前沿模型能力提升的速度。他强调,这一主张并不是停止研发,也不是让技术进步暂停,而是希望企业在推出更强模型之前,留出足够时间完成对齐、安全测试与风险缓解。
阿莫代伊的核心表述是,模型进展仍会显得非常迅速,但行业需要更谨慎地使用由此获得的时间。这个主张正值前沿AI公司的能力竞争持续加剧之际。根据相关报道,阿莫代伊认为,最近几个月AI能力提升明显加快,尤其是模型构建下一代AI系统的能力正在增强。
这一讨论也受到近期安全事件和行业内部警告的推动。阿莫代伊提到针对Hugging Face的攻击,并担心多个AI代理未来可能协同工作,形成能够持续运行的网络化系统。他警告称,在未来六到十二个月内,类似的代理群体可能造成大规模互联网破坏,潜在经济损失可能达到数千亿美元。报道没有表明这一情景已经发生;它更多体现的是Anthropic对代理能力快速增长的风险判断。
第三方评估员将获得更深度的内部访问权限
阿莫代伊提出的第一项具体措施,是让第三方安全评估人员以更接近公司内部员工的方式参与审查。按照他的设想,外部团队可以拥有办公位置、工作证、公司设备以及接近内部风险人员的系统权限,并能够在不受企业事先筛选的情况下发布调查结果。
这一安排与传统的外部审计存在明显区别。传统审查往往在模型开发的某一阶段进行,评估人员可能只能访问有限材料;而“嵌入式评估员”模式强调持续观察和更高权限,理论上能够更早发现模型在自主执行、网络交互、代码生成或多代理协作方面的风险。
不过,独立性如何保障仍然是关键问题。第三方团队由谁选定、经费由谁承担、内部权限如何界定、商业秘密如何保护,以及发现高风险问题后是否能够强制暂停发布,相关报道尚未给出完整答案。允许评估人员公开结果也可能带来信息披露、责任归属和国家安全方面的复杂问题。因此,这一承诺的实际影响将取决于制度设计,而不仅仅是企业公开表态。
OpenAI表示将跟进,行业协调面临竞争法约束
OpenAI首席执行官萨姆·奥特曼公开表示认同“放缓前沿发展”的方向,并称独立评估员获得类似员工的访问权限是一个很好的想法,OpenAI将采取相应做法。奥特曼还表示,放缓前沿模型进展已成为OpenAI近期内部讨论的重点。xAI负责人埃隆·马斯克则简短表示支持。
这意味着两家主要前沿模型公司在公开层面形成了一个共同承诺。但共同承诺并不等于统一的行业标准。不同企业可能采用不同的评估方法、风险分类和信息披露尺度。若缺少可比较的测试协议,外界仍难以判断一家公司的安全措施是否足以应对其模型的实际能力。
阿莫代伊提出的另一项建议,是希望美国政府提供范围有限的反垄断豁免,或者以其他方式允许竞争对手就安全问题展开协调。他的逻辑是,企业如果担心安全讨论本身触及反垄断风险,可能不愿分享威胁情报、测试方法或事故经验;但如果企业可以借此协调商业策略、限制竞争或统一市场行为,监管机构又必须保持警惕。
因此,所谓豁免若要成立,可能需要严格限定参与者、议题范围、信息边界和有效期限,并明确安全协调不得转化为价格、市场分割或其他竞争限制。相关报道显示,阿莫代伊希望政府允许安全对话,而不一定要求政府直接参与。但具体法律路径和适用范围仍未确定。
欧洲规则提供了另一种监管参照
相关报道特别指出,阿莫代伊的公开文章没有提到欧洲,而欧盟针对具有系统性风险的通用模型已经建立了相应要求。根据报道,自2025年8月起,欧盟《人工智能法案》的相关规则要求企业开展有记录的对抗性测试,按照标准化协议评估和缓解系统性风险,并加强模型网络安全保护。
这并不意味着企业公开提出的机制已经完全被欧盟规则覆盖,也不意味着遵守法规就等同于实现了充分安全。法规解决的是最低义务、监管权限和责任分配问题,而企业提出的嵌入式评估模式更强调持续监督和公开问责。二者可能互补,也可能在评估范围、披露标准和执行方式上产生差异。
欧洲经验还涉及一个重要的制度问题:企业之间是否需要通过专门豁免来讨论安全。在欧盟,个别竞争者豁免的传统路径已经发生变化,竞争法下的合作通常需要根据具体行为和公共利益进行判断。因此,美国企业提出的狭义反垄断豁免,并不能简单复制到欧洲监管环境中。
“放缓”能否落地取决于可验证性
此次倡议的意义,在于它把AI安全讨论从原则性警告推进到组织安排:谁可以检查模型、能获得什么权限、能否公开结论,以及竞争者如何共享安全信息。这些问题对部署AI代理、管理企业级模型和保护敏感数据的机构同样重要。对于机构钱包和托管体系而言,若未来模型被用于自动化权限管理、交易流程或风控辅助,独立评估的可验证性将比单纯的安全宣言更关键。
但目前公开信息仍主要是企业领导人的承诺,尚缺少统一的时间表、测试指标、监督主体和违规后果。行业也没有解决一个根本矛盾:前沿模型的竞争优势往往来自更快的迭代,而更严格的评估可能降低发布速度并增加成本。企业是否愿意在商业压力下持续接受外部审查,将决定“放缓前沿发展”能否从口号变成可执行的治理机制。
接下来,监管机构、独立评估机构和AI公司可能需要进一步明确三件事:哪些能力触发更高等级的审查,什么证据可以证明风险已经得到缓解,以及安全合作与竞争限制之间的边界在哪里。在这些标准形成之前,Anthropic与OpenAI的表态更适合被视为行业治理方向的信号,而不是已经完成的安全制度。
Source: 链接