企业加速部署AI代理,权限治理与内部风险成为新盲区

随着任务型AI代理快速进入企业应用,企业IT部门正面临一个新的治理难题:不仅要知道哪些代理正在运行,还要确认它们拥有哪些权限、执行了什么操作,以及是否仍应继续运行。

Cobo 新闻室
Cobo 新闻室2026年9月25日
要点速览
  • Dataiku对685名CIO的调查显示,81%的受访者无法完整掌握员工在正式渠道之外创建的AI代理。
  • 67%的CIO估计,企业生产环境中正在运行至少51个AI代理;83%表示组织缺乏统一的代理生命周期管理。
  • 90%的受访者称能够追踪全部代理,但72%无法持续确认代理是否实现了预期业务结果,显示“可见性”与“有效管理”之间存在明显落差。
  • Automox调查显示,只有46%的组织目前实现了终端资产清点与监控自动化;AI代理正在使传统的软件库存管理转向权限与行为管理。
  • 安全机构警告,AI代理能够读取本地文件、调用工具和API,并在无人持续观察的情况下执行多步骤操作,因此错误可能被快速复制到整个设备或系统环境。
  • 企业内部对代理失误后的责任归属仍未形成共识,IT、AI团队、业务团队以及安全与合规部门之间的治理边界尚不清晰。

News illustration

简介

随着任务型AI代理快速进入企业应用,企业IT部门正面临一个新的治理难题:不仅要知道哪些代理正在运行,还要确认它们拥有哪些权限、执行了什么操作,以及是否仍应继续运行。

AI代理进入生产环境,治理速度却未同步

企业部署AI代理的速度正在加快。相关调查和行业数据都显示,AI代理已不再只是实验室中的辅助工具,而是开始进入员工终端、业务应用和企业生产环境。Gartner预测,到今年年底,具备特定任务能力的AI代理将被整合进40%的企业应用,高于此前不到5%的水平。

但部署规模的扩大,也暴露出企业治理能力的不足。Dataiku委托Harris Poll开展的一项调查覆盖685名来自美国、英国、法国、德国、阿联酋、日本、韩国和新加坡的CIO。调查显示,81%的受访者无法完整看到员工在正式批准系统之外创建的AI代理。84%的CIO认同,员工创建代理和应用的速度已经超过IT部门的治理速度,60%的受访者则表示,组织尚未在应用、工具和IT环境之间建立统一的AI治理层。

这意味着企业面对的并不是单纯的“是否使用AI”问题,而是一个更具体的运营问题:企业是否知道有哪些代理正在运行、这些代理被授予了什么权限,以及它们实际做了什么。

从软件清单转向权限与行为清单

传统终端管理通常关注设备上安装了哪些软件、版本是否合规,以及软件是否存在已知漏洞。这一套方法建立在一个相对稳定的假设之上:软件通常要等到用户或预先设定的计划发出指令后才会行动。

AI代理改变了这一前提。它们可以读取本地文件、调用外部工具和API,并根据上下文执行多个步骤。代理可能在两次人工检查之间完成一系列动作,因此仅记录“安装了什么”已经不足以解释潜在风险。企业还需要了解代理被允许访问什么、使用了哪些凭证、调用了哪些系统,以及最终产生了什么结果。

Automox的调查显示,目前只有46%的组织实现了终端清点和监控自动化。随着AI原生应用进入企业终端,资产管理的对象也从静态软件包扩展到持续运行的代理及其行为。Cyberhaven Labs称,过去一年企业采用基于终端的AI原生应用增长了509%;BeyondTrust旗下Phantom Labs则报告,企业环境中的AI代理同比增长466.7%。这些数据来自供应商遥测,并不代表整个行业的统一统计,但两者都指向同一个趋势:代理数量正在快速增长,而传统清点能力并未同步升级。

“能追踪”不等于“能管理”

Dataiku调查进一步显示,90%的CIO表示,他们能够完整追踪所有代理;然而,72%无法持续确认这些代理是否达成了最初设定的业务目标。这一差距说明,企业的监控系统可能知道一个代理是否存在或正在运行,却不一定能够判断其输出是否正确、是否合规,或者是否仍值得继续运行。

代理生命周期管理同样缺乏标准化。83%的受访者表示,组织没有统一的代理生命周期管理机制;67%的CIO估计,企业生产环境中至少有51个代理正在运行。与此同时,47%的受访者表示,今年已经停用超过20个代理。停用数量本身并不能说明治理是否有效,但它反映出企业正在面对持续增加、快速变化的代理组合,而不是一次性部署后长期不变的软件资产。

AI成本也缺少足够的透明度。只有21%的受访者拥有按团队或使用场景划分的完整、近实时AI成本可见性。对于代理而言,成本不只来自模型调用,还可能与工具访问、外部API、数据处理和重复执行有关。缺乏细分的成本信息,会让企业难以判断某个代理是否仍然产生相称的业务价值,也会削弱对异常行为的识别能力。

权限扩张使错误更容易规模化

AI代理成为内部风险来源的关键,并不只是它们可能犯错,而是它们能够在更短时间内将错误扩散到更大范围。Automox首席执行官Justin Talerico将单台设备上的错误与推送至整个设备群的错误进行了区分:前者通常可以修复,后者则可能迅速演变为系统性危机。

这一风险与代理的权限设计直接相关。如果代理可以访问本地文件、调用内部服务或使用企业API,那么一次错误判断可能不再局限于单个问答结果,而可能触发连续的系统操作。代理数量越多、权限越分散、操作链条越长,企业越难仅依靠事后审计恢复完整的事件路径。

因此,企业治理的重点正在从“是否批准某个AI工具”转向更细粒度的问题,包括代理的身份、权限范围、可调用工具、运行环境、操作日志、人工介入条件和停用机制。调查显示,CIO对于代理出错后的责任归属也没有统一答案:23%选择共享团队,21%选择中央IT,20%选择数据或AI团队,18%选择安全、风险与合规部门。责任分散可能反映跨部门协作的现实,但也可能造成出现问题时无人拥有最终决策权。

企业需要建立可问责的代理治理框架

目前的数据显示,企业并非完全没有监控能力,而是监控、权限、业务效果和责任机制之间尚未形成闭环。一个代理被记录在系统中,不代表它的访问范围已经得到审查;一个代理能够正常运行,也不代表它实现了预期结果;一个代理被停用,也不代表相关凭证、数据访问和下游连接已经同步撤销。

更成熟的治理框架至少需要覆盖几个方面:首先,建立代理清单,记录代理的创建者、所属团队、用途、运行位置和依赖的模型或工具;其次,对权限进行最小化设计,并定期复核代理是否仍需保留现有访问范围;再次,将代理的运行日志、API调用、数据访问和业务输出纳入统一审计;最后,明确谁有权批准、暂停和终止代理,并为异常行为设置人工升级机制。

这并不意味着企业必须放慢所有AI部署,而是需要承认,代理的部署速度已经改变了传统IT资产管理的边界。对于涉及敏感数据、关键业务系统或多方协作的环境,代理治理还需要与现有的身份管理、终端安全、数据保护和合规流程衔接。

企业AI竞争的下一个阶段,可能不再只是比较谁能更快创建代理,而是比较谁能持续证明这些代理在正确的权限下,以可审计、可撤销、可问责的方式运行。

Source: 链接

✦ Cobo 智能体经济

每周五,直达你的收件箱。

来自 Cobo 团队的每周通讯 —— 以机构托管的视角,解读加密、AI 与支付领域最具影响力的故事。