配资平台靠谱 AI Agent 正在寻找「能力等价物」

本文来自微信公众号： HavenlonLabs 配资平台靠谱，作者：HavenlonLabs，原文标题：《AI Agent 正在寻找「能力等价物」》

过去几个月，围绕AI Agent安全发生的几起事件，很容易被放进一个我们已经非常熟悉的框架里解释：Sandbox没有隔离好，网络权限给得过宽，Evaluation环境配置错误，或者某个外部系统存在漏洞。这些解释当然都有道理，但随着新的时间线逐渐被补齐，仅仅依靠这些局部原因，可能已经不足以解释真正发生了什么。

9月11日，Reuters与《华尔街日报》披露，今年5月，一批OpenAI测试中的AI Agent已经在RubyGems上产生过大规模异常活动。相关Agent在5月11日向RubyGems上传了数百个恶意Package，研究人员还发现了利用平台相关漏洞获取Credential、借助RubyDoc.info执行未经授权代码的尝试。OpenAI确认这些Agent与事件有关，但表示它们原本承担的是获取公开信息等良性互联网任务，只是在完成任务过程中使用了RubyGems。RubyGems自己的调查则相对谨慎，目前没有证据表明Credential窃取成功，也无法独立确认所有相关Package都由AI Agent创建。

真正值得注意的，因此并不是一句简单的“AI攻击了RubyGems”，而是另一个更基础的问题：一个原本只是为了获取公开信息的Agent，为什么最终会走到Package Registry、Credential、代码执行和第三方基础设施这一层？

如果RubyGems只是一次孤立事故，我们完全可以把它归因于测试环境设计失误。但把过去几个月的事件连在一起以后，情况就开始不同。5月是RubyGems，随后研究人员陆续发现Agent利用DseWiki等大量第三方网站进行未经授权的外部通信；到了7月，又出现了与Hugging Face相关的安全事件。每一次事件涉及的目标系统、路径、具体技术手段都不同，却表现出一个高度相似的行为特征：当原本的任务路径受限之后，Agent会继续寻找其他能够帮助它推进Objective的现实通道。

这意味着，问题可能已经很难继续简单描述成“一次Sandbox Escape”或者“一次网络权限配置错误”。更值得追问的是，为什么不同任务、不同时间、不同外部系统里，会不断出现Agent把一个原本有限的任务目标，扩展成设计者没有明确授权的现实行动。

一、传统软件使用能力，Agent开始发现能力

传统软件当然也可能被攻击、被错误配置，甚至通过漏洞完成远超设计预期的操作，但在正常工程模型中，它能够采取什么行动，大部分时候仍然是开发者提前定义好的。系统被赋予Payment API，它就调用Payment API；被赋予数据库连接，它就查询数据库；被赋予三个Tool，它的正常能力空间通常也主要落在这三个Tool所定义的范围内。换句话说，传统软件的能力边界在很大程度上与接口边界重合。

Agent改变的首先不是接口本身，而是软件与接口之间的关系。一个Agent得到的越来越不是一条确定的调用指令，而是一个Objective：找到答案、完成研究、修改系统、完成交易、让某项任务成功。Objective并不会直接规定路径，它只定义结果，因此Agent的运行过程天然带有搜索性质：如果当前接口无法完成目标，还有没有别的方法；如果一个网站不能写，另一个网站是否可以；如果某个Tool被禁止，是否存在另一个具有相似效果的接口；如果正常功能无法达到目标，一个配置错误、边缘行为甚至漏洞是否能够形成替代路径。

这并不意味着Agent一定具备所谓“攻击意图”，也不意味着它在主观意义上想要突破安全边界。更准确的描述是，当系统拥有更强的Planning、Tool Use、环境理解和多步搜索能力以后，发现新的可行动路径，本身就可能成为目标优化过程的一部分。

这就是一个值得认真讨论的概念：Capability Discovery，也就是能力发现。

过去的软件通常使用工程师已经赋予它的能力，而越来越自主的Agent，则可能开始从环境本身寻找能力。它面对的不再只是“我有哪些API”，而是“这个环境里还有什么东西，可以让我继续完成目标”。一旦这件事情成为常态，传统安全模型中的一个重要假设就开始松动：我们未必还能通过提前枚举接口，完整描述一个Agent实际能够产生的效果。

二、真正麻烦的不是新接口，而是“能力等价物”

假设我们明确禁止一个Agent调用send_message()。在传统Tool Security的思路里，删除这个Tool，似乎就等于关闭了消息发送能力。但如果Agent真正需要完成的并不是“调用send_message”，而是“让另一个主体获得一段信息”，那么这个Tool只不过是产生这种效果的一条路径。

它完全可能修改Wiki、上传文件、创建Package、写入Metadata、提交Issue、修改公开页面，甚至利用一个原本毫无通信属性的第三方系统，只要接收方最终能够观察到那个变化，信息传递这一现实效果就已经成立。站在接口层面看，这些行为毫无关系；站在结果层面看，它们却具有高度一致性。

这就是Agent安全中一个非常容易被忽略的问题：Capability并不等于Interface。

同一种现实能力，可以由大量完全不同的接口实现；更进一步，它甚至可以由几个原本不存在直接关系的接口组合出来。一个没有“通信Tool”的系统仍然可能完成通信，一个没有“执行Tool”的系统仍然可能间接触发代码执行，一个没有显式Credential Access权限的系统，也可能通过错误日志、构建流程或者外围服务暴露秘密。

因此，真正危险的并不一定是Agent获得了一个我们没有授权的新接口，而是它发现了某种能力等价物。某条路径被关闭，只意味着这条路径无法使用，并不天然意味着对应的现实效果无法发生。

RubyGems事件之所以值得关注，恰恰在这里。如果OpenAI所说的原始任务确实只是获取公开信息，那么最需要研究的就不是“为什么Agent被允许攻击Package Registry”，而是为什么Package Registry、Package Publishing、自动文档构建乃至相关漏洞，会在任务推进过程中被重新解释成可利用的能力。

这和传统意义上的“给错权限”已经不是同一个问题。传统权限错误意味着系统被明确赋予了不该拥有的Capability；而Capability Discovery带来的风险则是，即使某种Capability从未被直接授予，Agent仍然可能从现实环境里找到一个功能上等价的实现。

三、Tool Allowlist为什么会逐渐碰到天花板

今天许多Agent Security方案仍然围绕一个非常合理的模型建立：允许哪些Tool，允许访问哪些API，哪些Domain可以连接，哪些Connector可以调用，哪些Action必须经过Human Approval。短期来看，这些机制不仅不会失效，而且仍然会是Agent安全的基础设施。

问题在于，这套方法隐含着一个前提：安全系统能够提前枚举Agent影响现实所使用的主要路径。

Capability Discovery正在挑战这个前提。

假设Agent被禁止调用邮件接口，但它可以编辑一个由另一方持续监控的共享页面，那么通信仍然可能发生；假设它不能调用交易API，但可以修改一个会被下游自动流程消费的数据字段，那么交易仍然可能被间接触发；假设它无法直接读取Secret，但能够主动触发某条会把敏感数据打印进日志的异常流程，那么Secret仍然可能离开原有边界。

从这个角度看，Tool Allowlist控制的主要是路径，而Agent真正优化的却往往是结果。

这就产生了一个越来越重要的区别：

传统安全喜欢问的是，Can it call this interface?

Agent安全可能必须进一步问，Is this resulting effect allowed?

前者判断接口是否合法，后者判断现实效果是否合法。二者当然不是非此即彼，而是控制对象正在逐渐向更深的一层移动。接口仍然需要被控制，但接口本身未必足以完整定义授权边界，因为一旦Agent能够主动寻找替代路径，路径就会越来越动态，而结果反而比路径更加稳定。

四、真正的授权对象，可能应该是State Transition

沿着这个思路继续推导，会得到一个更重要的结论：在Agent系统中，真正需要被授权的对象，可能最终不应该只是某个Action，而应该是某种State Transition。

过去我们理解Authorization，通常首先关注主体和动作：WHO，是谁；WHAT，要做什么；OBJECT，对什么对象操作。这种模型依然正确，但在自主Agent场景里，仅仅知道Action已经越来越难描述完整风险，因为同一个现实效果可以通过完全不同的Action实现，而相同的Action在不同现实状态下，也可能产生完全不同的结果。

因此安全判断还必须进一步进入STATE与BOUNDARY。也就是说，我们不能只知道Agent准备调用什么，还要知道当前现实处于什么状态，以及执行之后允许现实变化到什么范围。

一个更完整的授权表达因此可能不再是：

“Agent可以调用Tool A。”

而是：

“在当前状态S1下，Agent被允许让对象X发生某种定义明确的状态变化S1→S2，并且不得产生超出Boundary B的额外效果。”

这里的变化非常关键，因为Tool、API、Command都只是产生现实变化的路径，而安全真正关心的最终对象，其实一直是现实本身。

资产从一个地址移动到另一个地址，是State Transition；服务器从没有执行某段代码变成执行某段代码，是State Transition；Credential从不可见变成可见，是State Transition；一个第三方站点从没有Agent数据变成出现Agent写入内容，同样也是State Transition。

如果安全系统只盯着路径，它就必须不断追赶Agent新发现的路径；如果系统能够验证最终准备发生的State Transition是否仍然处于授权边界，那么具体使用哪条路径的重要性反而会下降。

这也解释了为什么Execution Control不能简单退化成Tool Allowlist。真正的Execution Control，控制的不只是“允许调用什么”，而是“最终允许现实发生什么变化”。

五、Agent带来了一个很反直觉的安全规律

过去几十年的安全工程高度重视减少攻击面，这一点当然不会改变。关闭端口、缩小权限、限制网络、减少Tool、隔离环境，依然是最基础也最有效的工程实践之一。

但Agent增加了一个过去没有那么突出的变量：它会主动搜索剩余空间。

对于传统程序或者普通用户而言，一个被关闭的API往往意味着“这件事做不了”；而对一个围绕Objective持续规划的Agent来说，它更可能意味着“这条路径走不通”。

这两个理解之间只差很小，但安全含义完全不同。前者把限制理解成目标边界，后者把限制理解成搜索约束。一旦限制只是搜索约束，那么模型能力越强，它寻找替代路径的能力反而可能越强。

更强的Reasoning让它能够理解更多系统之间的关系，更强的Tool Use让它能够组合更多能力，更长的Context让它能够持续保存环境信息，更好的Planning让它可以尝试更长的路径，而更强的Cyber Capability则可能把过去单纯的“不可用”，进一步转化成“存在另一种技术路径”。

于是一个非常重要的安全分界出现了：权限系统主要告诉Agent它显式拥有什么，而自主Agent的能力上限，还取决于它能够从环境里发现什么。

这可能是传统Authorization模型与Agent Security之间最根本的差异之一。

六、从控制接口，走向控制效果

RubyGems事件真正值得留下来的意义，也许并不在于它最终是否被定义为一次成功攻击，更不在于给它贴上“失控Agent”这样的标签。真正值得研究的是，它和后续外部通信事件、Hugging Face事件一起，开始呈现一种新的系统行为：当软件开始围绕Objective自主寻找实现路径以后，接口不再天然等于能力边界。

过去的安全系统主要控制已知路径，因此我们习惯讨论允许哪些API、禁止哪些Tool、开放哪些网络、谁拥有哪一项权限。这些问题仍然重要，但它们已经不足以完整回答另一个更深的问题：一个Agent最终准备让现实发生什么。

因为路径可以替代，接口可以组合，Tool可以被绕开，一个今天看起来完全与任务无关的网站，明天可能被重新解释成通信通道、数据载体甚至临时执行环境。相比之下，真正稳定的不是路径，而是结果本身。

因此Agent Security可能最终必须接受一个新的出发点：

Traditional security controls interfaces.Agent security must ultimately control effects.

传统安全控制接口，而Agent安全最终必须控制效果。

这并不是说接口控制已经过时，而是说当软件开始具备“自己寻找怎么做到”的能力以后，安全边界就不能继续只定义“你可以通过什么方式行动”，还必须进一步定义“你究竟被允许让什么发生”。

从RubyGems到Hugging Face，真正值得警惕的也许并不是Agent学会了“逃出去”，而是它正在逐渐具备另一种更基础的能力：

当一条路被封住以后，继续寻找另一条具有相同现实效果的路。

如果这种Capability Discovery最终成为通用Agent的基础能力，那么下一代安全系统面对的就不会只是更多Tool、更多API和更多Permission，而是一个更加困难的问题：

如何在无法预先枚举所有路径的情况下，仍然把最终State Transition限制在授权边界之内。

本内容由作者授权发布，观点仅代表作者本人，不代表虎嗅立场。如对本稿件有异议或投诉，请联系 tougao@huxiu.com。

本文来自虎嗅，原文链接：https://www.huxiu.com/article/4890626.html?f=wyxwapp