在VB Transform 2025大会的第二天，行业领袖们分享了大规模部署智能体的宝贵经验。本次小组讨论由Foundation Capital的普通合伙人Joanne Chen主持，参与讨论的嘉宾包括：Rocket Companies的首席技术官Shawn Malhotra，该公司在家居所有权旅程中，从抵押贷款审批到客户聊天，都广泛使用了智能体，Sendbird的产品负责人Shailesh Nalawadi，该公司为多个垂直行业的公司构建了自主式客户服务体验，以及Cognigy的AI转型高级副总裁Thys Waanders，其平台为大型企业联络中心自动化客户体验。

他们共同的发现是：那些首先构建评估和编排基础设施的公司会取得成功，而那些急于用强大的模型投入生产的公司则会在大规模部署时失败。

投资回报率(ROI)的现实：超越简单的成本削减

成功打造智能体的一个关键部分是理解投资回报率，早期的智能体部署主要集中在降低成本上，虽然这仍然是关键因素之一，但企业领导者现在报告了更复杂的ROI模式，这需要不同的技术架构。

成本削减的成效

Malhotra分享了Rocket Companies最显著的成本节约案例。“我们有一位工程师，在大约两天的工作时间内，就构建了一个简单的智能体来处理抵押贷款审批过程中一个非常专业的问题——‘过户税计算’，这两天的努力，每年为我们节省了100万美元的费用。”他说。

对于Cognigy而言，Waanders指出，每次通话的成本是一个关键指标。他说，如果使用智能体来自动化部分通话，就有可能减少每次通话的平均处理时间。

增加收入的方法

节约是一回事，增加收入则是另一回事。Malhotra报告说，他的团队已经看到了转化率的提升：随着客户更快地得到问题的答案，并获得了良好的体验，他们的转化率更高了。

主动收入机会

Nalawadi强调了通过主动接触客户所带来的全新收入能力。他的团队实现了主动客户服务，在客户甚至意识到问题之前就主动联系他们。

一个食品配送的例子完美地说明了这一点。“他们已经知道订单何时会延迟，而不是等待客户生气并打电话给他们，他们意识到这是一个提前解决问题的机会。”他说。

智能体在生产中失败的原因

尽管部署代理式AI的企业有坚实的ROI机会，但在生产部署中也面临一些挑战。

Nalawadi指出了核心的技术失败原因：公司在没有评估基础设施的情况下就构建了智能体。

“在开始构建之前，你就应该有一个评估基础设施，”Nalawadi说，“我们所有人都曾经是软件工程师，没有人会在不运行单元测试的情况下部署到生产环境。我认为，评估可以看作是你智能体系统的单元测试。”

传统的软件测试方法不适用于智能体。他指出，不可能预测每一个可能的输入，也不可能为自然语言交互编写全面的测试用例。Nalawadi的团队在零售、食品配送和金融服务领域的客户服务部署中吸取了这一教训。标准的质量保证方法遗漏了生产环境中出现的边缘情况。

AI测试AI：新的质量保证范式

鉴于AI测试的复杂性，组织应该怎么做呢?Waanders通过模拟解决了测试问题。

“我们即将发布的一个功能是关于模拟潜在对话的，”Waanders解释说，“所以本质上就是智能体测试智能体。”

这种测试不仅仅是对话质量测试，而是大规模的行为分析，它能帮助理解智能体如何应对愤怒的客户?如何处理多种语言?当客户使用俚语时会发生什么?

“最大的挑战是你不知道你不知道什么，”Waanders说，“它如何应对任何人可能提出的任何问题?你只能通过模拟对话，通过在数千种不同场景下测试它来发现。”

这种方法测试了人口统计学的变化、情绪状态和边缘情况，这些是人类QA团队无法全面覆盖的。

即将到来的复杂性爆炸

当前的智能体独立处理单个任务。企业领导者需要为不同的现实做好准备：每个组织中有数百个智能体相互学习。

基础设施的影响是巨大的，当智能体共享数据并协作时，故障模式会呈指数级增长，传统的监控系统无法跟踪这些交互。

公司现在必须为这种复杂性构建架构，事后为多智能体系统补建基础设施的成本远高于一开始就正确构建的成本。

“如果你向前展望理论上可能发生的情况，一个组织中可能会有数百个智能体，也许它们还会相互学习，”Chen说，“可能发生的事情数量会爆炸式增长，复杂性也会爆炸式增长。”

企业网D1net(www.d1net.com)：

国内头部to B IT门户，旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。