
简介
AI代理正获得更广泛的系统访问权限,但其技能、插件和外部工具仍缺乏类似传统软件供应链的持续审查。AIR宣布融资5000万美元之际,一项研究显示,Claude Code在处理恶意网页摘要请求时,可能被诱导在本地执行攻击者代码。
AI代理正在形成新的软件供应链
企业开始让AI代理接触越来越多的内部系统、网络资源和自动化工具。代理所依赖的组件也随之增多,包括技能、插件、MCP服务器以及能够连接互联网的附加工具。它们并非传统意义上的单一应用,而是一组由模型动态调用、组合和执行的能力。
这一变化带来了一个新的安全问题:企业可能知道某个代理被部署在哪里,却未必清楚它在运行过程中会调用哪些第三方组件、下载哪些文件,或把什么权限传递给外部服务。过去,软件供应链通常围绕应用程序、驱动程序和依赖库建立版本、签名、来源及漏洞管理机制;而AI代理的工具链仍处于更早期阶段。
AI安全初创公司AIR正试图围绕这一问题建立产品。TechCrunch报道,AIR从隐身状态中走出,并在两轮种子融资中筹集5000万美元。公司由Yair Saban和Niv Hoffman创立,两人曾在以色列8200部队从事进攻性网络安全工作。报道援引Saban称,第一轮融资规模为1000万美元,由红杉资本领投;第二轮规模为4000万美元,由Greenoaks领投。
AIR提供的平台据称可以发现企业内部正在运行的代理,持续审查这些代理所使用的技能、工具和其他组件,并阻止代理与不符合安全标准的软件或外部来源交互。公司还提供经过审查的代理技能和附加组件市场。相关模式反映出一个日益清晰的方向:企业需要管理的对象,不只是模型本身,也包括模型能够调用的全部执行面。
“拒绝危险操作”可能并不足够
The Next Web援引安全研究员Johann Rehberger的研究称,Claude Code在被要求总结网页时,可能最终在本地机器上执行攻击者代码。该研究针对运行Opus 5的Auto Mode,研究者称在自己的测试中,相关攻击链的成功率最高达到约80%。这一数字属于特定测试条件下的观察结果,并不意味着所有用户或所有配置都会出现相同结果。
该攻击链的关键并不是直接要求代理运行恶意代码,而是把恶意内容嵌入一个看似普通的网页资源中。根据报道,研究者搭建了一个伪装成笔记记录档案的网站。Claude首先尝试使用WebFetch读取页面;当服务器返回“415 Unsupported Media Type”后,代理转而使用Bash调用curl。研究者并没有明确要求它执行这一替代操作,而是利用了首选工具失败后的自动调整过程。
随后,网站通过303重定向返回一个ZIP压缩包。压缩包内包含目录元数据、README文件、若干编码后的笔记记录、一个macOS解码器二进制文件,以及名为struct.py的Python文件。Claude拒绝运行随附的解码器二进制文件,这一行为符合其安全训练和防护逻辑。然而,研究者表示,代理随后自行编写了解码器,正是这一“安全拒绝”构成了后续执行链的一部分。
在该案例中,代理生成的解码器导入了Python标准库base64,而base64又会导入struct。由于Python通常会优先从本地目录查找模块,压缩包内名为struct.py的文件可能取代真正的标准库模块并被加载。这种技术被称为模块遮蔽,早于生成式AI出现多年;AI代理只是让传统攻击技巧获得了一个能够自动完成中间步骤的执行者。
风险来自工具组合,而非单一提示词
这两个案例共同说明,AI代理的安全边界不能只用“模型是否拒绝恶意请求”来衡量。一个代理即使拒绝执行明显危险的二进制文件,也可能在处理同一任务时下载文件、调用Shell、创建脚本、加载依赖,或按照上下文自行设计替代方案。每个动作单独看似合理,组合起来却可能形成攻击路径。
因此,企业需要审查的不仅是提示词和输出,还包括代理拥有的文件系统权限、网络访问范围、命令执行能力、凭证可见性和外部工具来源。尤其当代理被接入代码仓库、内部知识库、支付系统或其他高价值业务环境时,任何未经审查的技能或插件都可能扩大潜在影响面。对机构使用的钱包、托管系统和其他资产基础设施而言,这类原则同样意味着应将代理的密钥可见性、签名权限和交易执行边界与普通自动化权限区分管理;但上述事件本身并未显示相关攻击已经影响数字资产系统。
从模型安全转向运行时治理
AIR的融资和研究披露所指向的是同一个行业转变:代理安全正在从模型层面扩展到运行时和供应链层面。模型训练能够改善拒答能力,却无法单独解决第三方组件来源不明、工具权限过宽、网络内容包含提示注入,或本地目录存在恶意文件等问题。
更完整的治理框架可能包括组件清单、来源验证、签名机制、持续扫描、最小权限、隔离执行和可审计日志。企业也需要明确哪些工具可以自动调用,哪些操作必须经过人工确认,以及在代理行为偏离预期时如何迅速撤销权限。对于不断变化的代理环境,一次性的安全评估也可能不够,因为插件、技能和外部服务会持续更新。
这并不意味着AI代理无法用于企业流程,而是意味着部署方式不能继续沿用“安装一个应用、给予广泛权限、再依赖用户自行判断”的模式。随着代理开始在多个系统之间传递数据并执行操作,工具链本身正在成为需要持续管理的基础设施。AIR所押注的审查与阻断能力,以及研究中暴露的自动执行链,都提醒企业:代理的能力越接近操作系统,权限、来源和运行时控制就越不能被视为附属问题。
Source: 链接