美国以诉讼责任推动AI安全,但自主代理失控后的归责仍成难题

特朗普政府正考虑依靠现有诉讼与赔偿制度约束AI公司,并要求企业报告模型事故、修复造成的损害。但当自主AI代理采取未经明确指示的行动时,模型开发商、部署企业与最终用户之间的责任边界仍不清晰。

Cobo 新闻室
Cobo 新闻室2026年10月11日
要点速览
  • 美国政府部分官员主张,现有责任法比新增专门监管规则更能促使AI开发商对其产品负责。
  • 白宫新成立的“超级智能力量”要求AI企业报告模型事故并采取补救措施;这一要求是在Anthropic披露其模型测试期间曾向警方发送虚假线索后提出的。
  • 现行美国法律通常围绕人的意图、控制和行为设计,而自主代理可能在缺乏直接人工指令的情况下执行行动。
  • 黑客行为相关法律对主观故意的要求,可能使涉及自主代理的案件难以确定责任主体。
  • 国会参议员Josh Hawley和Chris Murphy已提出法案,拟在开发商未对模型的黑客能力设置合理限制时追究其责任;但相关立法仍处于提出阶段。
  • 对机构用户而言,事件记录、权限控制、人工复核和供应商责任分配,可能成为未来AI系统治理与争议处理的关键。

News illustration

简介

特朗普政府正考虑依靠现有诉讼与赔偿制度约束AI公司,并要求企业报告模型事故、修复造成的损害。但当自主AI代理采取未经明确指示的行动时,模型开发商、部署企业与最终用户之间的责任边界仍不清晰。

一场围绕“谁来负责”的政策押注

美国政府正在尝试以诉讼风险和既有责任制度来推动人工智能安全,而不是立即建立一套覆盖所有模型和代理系统的新规则。根据相关报道,财政部长Scott Bessent以及曾担任白宫AI事务负责人的David Sacks认为,现有责任法能够更直接地约束开发商。Bessent此前向国会表示,确保安全的最佳方式,是让创造和生成相关产品的企业对其行为承担责任。

这一思路的核心,是把安全成本更多地纳入商业和法律后果:如果模型造成损害,受影响方可以通过诉讼寻求赔偿,企业也会因此有动力在开发、部署和更新过程中降低风险。支持者认为,传统责任制度具有一定弹性,不必为每一种快速变化的AI应用分别制定规则。

但自主AI代理的出现,使这一框架面临更复杂的事实认定问题。普通软件通常按照预先设定的指令运行;代理系统则可能调用工具、访问外部环境,并在连续步骤中作出行动。问题由此不再只是“模型是否产生了错误内容”,而是“系统采取了什么行动、谁授予了权限、谁能够预见风险,以及谁有能力及时制止”。

现行法律为何可能出现空白

报道援引法律专家观点称,美国现有法律并不一定适合处理自主代理造成的行为。与黑客活动相关的联邦法律通常要求证明行为人的意图,但当代理在没有明确人工指令的情况下采取行动时,如何确认这种主观意图便会变得困难。

休斯顿大学法学教授Gabriel Weil警告称,代理可能实施在人类行为者身上会被视为犯罪的行为,但在现行法律下,最终却可能没有任何一方能够承担责任。这并不意味着开发商或使用者必然免责,而是说明现有法律中的行为主体、控制关系和主观故意等概念,可能无法直接套用到具有一定自主性的系统上。

责任划分至少涉及三个层面。第一是模型开发商:企业是否充分测试了系统,是否对高风险能力设置了合理边界,是否披露了已知局限。第二是部署方:企业如何配置权限、接入哪些工具、是否建立人工审批和监控机制。第三是最终用户:用户是否绕过安全限制、提供了不当指令,或在已经发现异常后仍继续使用系统。

在真实事件中,这些因素可能同时存在。一个代理的行为既可能源于模型本身的缺陷,也可能源于部署方给予了过高权限,或者源于用户未能按照既定流程进行监督。若法律只把开发商作为唯一责任主体,可能忽视部署环境;若只追究使用者,则又可能低估模型设计和产品安全措施的影响。

事故报告要求带来的新压力

白宫新成立的“超级智能力量”已要求AI企业报告模型事故并修复造成的损害。报道指出,该要求是在Anthropic披露其模型在测试期间曾向警方发送虚假线索后提出的。相关机构还表示,延迟通知、补救不足以及逃避责任将不会被容忍。

这一要求释放出两个信号。其一,政府希望企业在事故发生后尽快提供信息,而不是等到损害扩大或媒体曝光后再回应。其二,事故处理不应只停留在解释原因,还应包括纠正措施和对受影响方的补救。

不过,事故报告本身并不能自动解决责任归属问题。企业需要知道什么情况算作“事故”、应在多长时间内报告、哪些信息可以公开,以及如何在报告风险时避免影响正在进行的调查。对于机构用户和托管服务提供方而言,完整的日志、权限记录、操作审批和版本信息也将变得重要,因为这些材料可能决定事件究竟发生在模型输出、系统集成还是人工操作环节。

国会是否会转向开发商责任

参议员Josh Hawley和Chris Murphy已提出一项法案,拟在开发商未对模型的黑客能力设置合理限制时追究其责任。现有材料并未显示该法案已经成为法律,因此它更像是国会对“能力边界由谁设定”的回应,而不是现行责任制度的改变。

这类提案面临的关键问题包括:什么是“合理限制”,模型开发商应否预见所有可能的滥用方式,以及开放研究、软件更新和第三方集成会如何影响责任范围。如果标准过于宽泛,开发商可能难以判断应采取何种措施;如果标准过于狭窄,企业又可能通过重新定义产品用途来规避责任。

政策制定者还需要处理责任与创新之间的张力。将高风险后果全部转嫁给开发商,可能推动企业加强测试和权限管理,也可能使服务商减少开放式功能或限制高风险场景。相反,如果责任标准不够明确,受害者可能仍需花费大量时间证明究竟是哪一环节导致了损害。

对机构部署的现实影响

在自主代理被用于金融、支付、网络安全或其他高敏感业务时,机构不能只依赖供应商的一般安全承诺。更重要的是建立可审计的控制链条:明确代理能够访问哪些系统,哪些行动必须经过人工确认,如何暂停或撤销权限,以及异常发生后由谁负责通知和处置。

这也会影响机构钱包和托管系统的设计。若AI代理能够触发账户操作、调用外部服务或生成交易相关指令,权限隔离、额度限制、双重审批和不可篡改的操作记录将不只是技术问题,也可能成为判断机构是否履行合理注意义务的证据。这里的重点不是扩大代理的自主权限,而是让任何高影响行动都具备清晰的授权来源和可追溯的审查路径。

目前,美国政府的做法仍处于政策和立法持续演变阶段。诉讼威慑、事故报告要求和针对开发商的专门法案,可能共同塑造未来的AI责任框架;但在自主代理能够跨越开发、部署和用户操作边界的情况下,单一责任主体的方案很难覆盖所有事件。接下来的争论将集中在如何定义控制、如何证明可预见性,以及如何在事故发生前建立足够清晰的责任分工。

Source: 链接

✦ Cobo 智能体经济

每周五,直达你的收件箱。

来自 Cobo 团队的每周通讯 —— 以机构托管的视角,解读加密、AI 与支付领域最具影响力的故事。