简介
Anthropic 推出史上最强模型 Fable 5，但其严格的安全护栏阻碍网络安全研究工作,高昂的 Token 计费模式引发用户不满。CEO 一边警告 AI 能力过强需政府监管,一边发布强大模型并限制竞品开发,言行不一引发互联网社区强烈批评。
Fable 5 登场:性能与争议并存
Anthropic 于本周二发布了其最新模型 Fable 5,这是该公司首个面向公众开放的 Mythos 级模型。根据官方介绍,Fable 5 在软件工程、知识工作、视觉理解、科学研究等多个领域都有显著提升,在基准测试中表现「遥遥领先」。
Fable 这个名字源自拉丁语 fabula,意为「被讲述的小故事」,在含义上接近希腊语 Mythos。实际上,Fable 5 和 Mythos 5 更像是同一底层模型的两个版本:Fable 5 面向公众开放但带有更严格的安全限制,而 Mythos 5 则仅通过 Project Glasswing 计划提供给少数网络安全防御机构和关键基础设施合作方。
在性能展示方面,Anthropic 提供了多个令人印象深刻的案例。支付公司 Stripe 在早期测试中让 Fable 5 处理一个包含 5000 万行 Ruby 代码的迁移任务,这项工作如果交给工程团队手动完成原本需要两个多月,而 Fable 5 在一天内就完成了。在 Cognition 的 FrontierCode 测试中,Fable 5 在复杂生产级代码任务中表现领先。视觉能力方面,官方展示了 Fable 5 仅依靠游戏画面完成《宝可梦火红》的案例,没有使用任何额外的地图、导航工具或游戏状态信息。
严格护栏引发专业人士不满
然而,Fable 5 的发布并未获得一致好评。网络安全研究人员和专业人士纷纷在网上表达不满,主要集中在模型过于严格的安全护栏上。
IBM X-Force 的知名安全研究员 Valentina "Chompie" Palmiotti 表示:"Fable 拒绝任何可能与网络安全相关的请求,即使是阅读博客文章这样无害的任务也会被拒绝。"当提示触发安全护栏时,Fable 会暂停对话并显示:"我们的安全措施标记了此消息,因为它涉及网络安全或生物学主题。"
网络安全资深专家 Matt Suiche 向 TechCrunch 透露:"如果你要求它编写安全代码,它会假设这是与网络安全相关的工作而不是软件工程最佳实践,然后你就会被降级。"Fable 被编程为在触发护栏时回退到 Claude Opus 4.8。"这似乎是基于关键词的,任何在'网络安全'词汇领域的内容都会触发护栏。"
Anthropic 设置这些护栏的初衷是限制 Fable 被用于开发恶意软件或破坏软件的风险,这一直是该公司长期关注的问题。对生物学的限制则源于对开发生物武器的类似担忧。然而,尽管出发点良好,许多网络安全专家仍对这种限制的随意性感到不满。
这种过度谨慎的做法实际上可能适得其反。网络安全研究人员需要能够分析潜在威胁、测试系统漏洞、编写安全代码,这些都是合法且必要的工作。如果 AI 工具无法协助这些任务,反而可能削弱整体的网络安全防御能力。
Token 计费时代来临:普通用户的噩梦
除了功能限制,Fable 5 的计费模式也引发了广泛关注和担忧。根据官方说明,从现在到 6 月 22 日,Fable 5 会包含在 Pro、Max、Team 和按席位计费的 Enterprise 计划中,不额外收费。但从 6 月 23 日起,Fable 5 将从这些订阅计划中移出,继续使用需要消耗 usage credits。
这标志着 AI 服务模式的重大转变。过去用户可以通过一张「月卡」解锁最强 AI 模型的时代可能一去不复返。未来用户需要考虑的不只是订阅价格,还有每一次调用、每一次长任务执行背后真实消耗的 Token 成本。
实测显示,Fable 5 是一个名副其实的「Token 刺客」。虽然 Anthropic 声称 Fable 5 比此前的 Claude 模型更节省 Token,但这种说法在社区中引发了嘲讽。有评论指出,几乎每次 Claude 新模型发布时都有类似的表述,但最终都成了高昂消耗的代名词,为互联网提供了大量笑料。
对于普通用户而言,这种计费模式的改变意味着使用成本的不确定性大幅增加。复杂任务可能消耗大量 Token,导致实际费用远超预期。这种「用多少付多少」的模式虽然在理论上更公平,但也让用户在使用时不得不时刻考虑成本,影响了使用体验。
CEO 言行不一引发信任危机
Anthropic CEO 的近期言论和行为更是引发了互联网社区的强烈批评。一方面,他警告 AI 能力过强,主张政府应有权阻止新模型部署,呼吁加强监管;另一方面,公司却发布了号称史上最强的 Fable 5 模型,并被曝故意限制该模型开发竞品。
这种言行不一的做法被广泛解读为一种竞争策略:通过呼吁监管来限制潜在竞争对手的发展,同时自己却继续推进强大模型的开发和部署。这种「我可以做,但别人不行」的态度引发了关于市场公平性和企业诚信的讨论。
批评者指出,如果 Anthropic 真的认为强大的 AI 模型存在风险需要监管,那么公司自己应该率先自我约束,而不是一边呼吁限制他人一边加速自己的发展。这种双重标准不仅损害了公司的信誉,也可能影响整个 AI 行业关于安全和监管的讨论。
从行业竞争的角度看,这种策略可能在短期内为 Anthropic 带来优势,但长期来看可能适得其反。如果监管政策真的按照 Anthropic 的建议实施,可能会阻碍整个行业的创新,最终也会限制 Anthropic 自身的发展空间。
对数字资产行业的潜在影响
虽然 Fable 5 的争议主要集中在网络安全和 AI 伦理领域,但其影响可能波及数字资产和区块链行业。强大的 AI 模型可以用于智能合约审计、区块链数据分析、交易策略优化等多个场景,但如果这些模型因为过度谨慎的安全护栏而无法有效使用,可能会限制行业的技术进步。
对于机构级数字资产服务提供商而言,AI 工具的可用性和成本都是重要考量因素。如果 Token 计费模式成为行业标准,企业需要重新评估 AI 工具的使用策略,在功能需求和成本控制之间找到平衡。
此外,Anthropic CEO 关于 AI 监管的主张也可能为数字资产行业提供参考。如何在鼓励创新和防范风险之间找到平衡,如何避免监管成为既得利益者巩固地位的工具,这些都是数字资产行业长期面临的问题。Anthropic 的案例提醒我们,监管政策的设计必须谨慎,避免被特定利益集团操纵。
行业需要更透明的讨论
Fable 5 的争议凸显了 AI 行业在快速发展过程中面临的多重挑战:如何在安全和可用性之间找到平衡,如何设计公平合理的商业模式,如何建立可信的行业规范。这些问题没有简单的答案,需要开发者、用户、研究者和监管者共同参与讨论。
对于 Anthropic 而言,当务之急是倾听用户反馈,调整过于严格的安全护栏,使其在保护安全的同时不妨碍合法用途。在计费模式上,公司需要提供更清晰的成本预估工具,帮助用户更好地控制支出。最重要的是,公司领导层需要在言行上保持一致,建立可信的企业形象。
从更广泛的角度看,AI 行业需要建立更开放、透明的讨论机制,让各方利益相关者都能参与到关于安全、伦理、监管的讨论中来。只有通过充分的对话和协商,才能制定出既能促进创新又能保障安全的行业规范,推动 AI 技术健康可持续发展。
Source: 链接