智能体规模化部署的隐形悬崖:如何避免部署崩盘?

责任编辑:cres

作者:Marty Swant

2025-06-27 14:23:34

来源:企业网D1Net

原创

智能体在构建方式、运行方式以及改进方式上都“有着根本的不同”,这意味着在处理自适应系统时,需要摒弃传统的软件开发生命周期。

想要构建并扩展智能体的企业还需要接受另一个现实:智能体的构建方式与其他软件截然不同。

根据Writer公司的CEO兼联合创始人May Habib的说法,智能体在构建方式、运行方式以及改进方式上都“有着根本的不同”,这意味着在处理自适应系统时,需要摒弃传统的软件开发生命周期(SDLC)。

“智能体并不总是可靠地遵循规则,”Habib在周三VB Transform大会的舞台上表示,“它们是结果导向的,它们会解读信息,会适应变化,而且,它们的行为真的只有在现实世界环境中才会显现出来。”

Habib的经验来自于帮助数百家企业客户构建和扩展企业级智能体,她深知哪些方法有效,哪些无效。据Habib介绍,财富1000强企业中有超过350家是Writer的客户,而且到2025年底,财富500强企业中有一半以上将使用Writer来扩展智能体。

Habib表示,使用非确定性技术来产生强大的输出甚至可能“非常棘手”,尤其是在系统性扩展智能体时,即使企业团队可以在没有产品经理和设计师的情况下启动智能体,Habib仍认为需要一种“产品经理思维”来协作、构建、迭代和维护智能体。

“不幸或幸运的是,这取决于你的视角,如果IT部门不引领业务部门进入这种新的构建方式,那么IT部门将不得不承担后果。”

为何基于目标的智能体是正确的方法

思考方式的转变之一包括理解智能体的结果导向性质。例如,Habib表示,许多客户要求智能体协助他们的法律团队审查或修订合同,但这太开放了,相反,基于目标的方法意味着设计一个智能体来减少审查和修订合同所花费的时间。

“在传统的软件开发生命周期中,你是在为一套确定性的、非常可预测的步骤进行设计,”Habib说,“它是输入、输出,方式更加确定,但对于智能体,你是在寻求塑造智能体的行为,因此,你寻求的是更少的控制流程,更多的是给予上下文并引导智能体做出决策。”

另一个不同之处在于为智能体构建一个蓝图,该蓝图通过业务逻辑来指导它们,而不是为它们提供要遵循的工作流程,这包括设计推理循环,并与主题专家合作,绘制出促进所需行为的过程。

尽管有很多关于扩展智能体的讨论,但Writer仍在帮助大多数客户逐个构建智能体,这是因为首先需要回答关于谁拥有和审计智能体、谁确保其保持相关性以及是否仍在产生所需结果的问题。

“如果没有一种新的构建和扩展智能体的方法,人们很快就会遇到一个扩展瓶颈,”Habib说,“当企业管理智能体的能力远远落后于各部门开发智能体的速度时,人们就会遇到这个瓶颈。”

智能体的质量保证与软件的质量保证

智能体的质量保证也与软件不同,智能体的评估不是基于一个客观的检查清单,而是包括考虑非二元行为,并评估智能体在现实世界中的表现,这是因为失败并不总是显而易见的——也不像检查某物是否损坏那样黑白分明。相反,Habib表示,更好的做法是检查智能体是否表现良好,询问安全机制是否有效,评估结果和意图:“这里的目标不是完美。而是行为上的自信,因为这里存在很多主观性。”

不理解迭代重要性的企业最终会陷入“一场持续不断的网球赛,双方都会精疲力竭,直到他们不想再打下去为止,”Habib说。团队也需要接受智能体并不总是完美的,更重要的是“安全地启动它们,快速运行,并不断迭代”。

尽管面临挑战,但已有AI智能体帮助企业带来新收入的例子。例如,Habib提到了一家与Writer合作开发基于智能体系统的大型银行,该系统通过引导新客户进入多个产品线,创造了一条价值6亿美元的新追加销售渠道。

AI智能体的新版本控制

智能体的维护也与众不同,传统软件的维护涉及在出现问题时检查代码,但Habib表示,AI智能体需要一种新的版本控制方式,以控制所有可能影响行为的内容,它还需要适当的治理,并确保智能体随着时间的推移仍然有用,而不是产生不必要的成本。

由于模型与AI智能体之间并不存在清晰的映射关系,Habib表示,维护工作包括检查提示、模型设置、工具架构和内存配置,它还意味着全面追踪执行过程中的输入、输出、推理步骤、工具调用和人类交互。

“你可以更新一个大型语言模型(LLM)的提示,并观察到智能体的行为完全不同,尽管在git历史记录中实际上没有任何变化,”Habib说,“模型链接会发生变化,检索索引会更新,工具API会演进,突然之间,同样的提示行为就不再如预期那样了,这感觉就像我们在调试幽灵一样。”

企业网D1net(www.d1net.com):

国内头部to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

链接已复制,快去分享吧

企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号