第一资本银行致力于站在新兴技术的前沿,最近推出了一款生产级的、最先进的多自主式AI系统,以提升购车体验。在这个系统中,多个智能体协同工作,不仅为购车者提供信息,还能根据客户的偏好和需求采取具体行动。例如,一个智能体与客户沟通,另一个根据业务规则和可用工具制定行动计划,第三个智能体评估前两个智能体的准确性,第四个智能体则向用户解释并验证行动计划。鉴于有超过1亿客户使用第一资本银行的其他各种潜在应用场景,该智能体系统旨在应对大规模和复杂的挑战。
“当我们考虑如何改善客户体验、让客户满意时,我们会思考,有哪些方法可以实现这一点?”Naphade说,“无论是开户、查询余额还是预约试驾车辆,客户都有很多想做的事情。归根结底,非常简单,就是如何理解客户的需求?如何了解你可用的满足机制?如何将第一资本银行这样的受监管机构的所有严格规定、所有政策、所有业务规则、所有约束(无论是监管方面的还是其他方面的)都考虑在内?”
他说,自主式AI显然是内部和面向客户用例的下一步。
设计智能体工作流程
金融机构在设计支持客户旅程的任何工作流程时都有特别严格的要求,第一资本银行的应用程序包括许多复杂流程,因为客户会利用对话工具提出问题并查询信息,这两个因素使得设计过程尤为复杂,需要对整个旅程进行全面审视,包括客户和人类客服在每一步的反应、回应和推理。
“当我们观察人类如何进行推理时,我们注意到几个显著的事实,”Naphade说,“我们发现,如果我们使用多个逻辑智能体来设计,就能很好地模仿人类推理,但接着你会问自己,不同的智能体具体做什么?为什么是四个?为什么不是三个?为什么不是20个?”
他们研究了历史数据中的客户体验:哪些对话进行得顺利,哪些出了问题,对话应该持续多久以及其他显著事实。他们了解到,通常需要与智能体进行多轮对话才能理解客户的需求,而且任何智能体工作流程都需要为此做好规划,同时还要完全基于组织的系统、可用工具、API和组织政策指导原则。
“对我们来说,主要的突破是意识到这必须是动态和迭代的,”Naphade说,“如果你看看很多人如何使用大语言模型(LLM),他们只是将LLM作为之前存在机制的前端,他们只是用LLM进行意图分类,但我们从一开始就意识到,那不可扩展。”
借鉴现有工作流程
基于他们对人类客服如何回应客户推理的直觉,第一资本银行的研究人员开发了一个框架,其中一组具有不同专业知识的专家AI智能体共同解决问题。
此外,第一资本银行在开发智能体系统时融入了强大的风险框架,作为一家受监管的机构,Naphade指出,除了其一系列内部风险缓解协议和框架外,“在第一资本银行内部,为了管理风险,还有其他独立实体观察我们、评估我们、质疑我们、审计我们,”Naphade说,“我们认为,拥有一个专门评估前两个智能体行为的智能体是个好主意,这个智能体的职责完全基于第一资本银行的政策和规则。”
评估者确定先前的智能体是否成功,如果没有,则拒绝该计划并要求规划智能体根据其判断的问题所在进行纠正,这一过程以迭代方式进行,直到达到适当的计划。事实证明,这对公司的自主式AI方法大有裨益。
“评估智能体是我们引入世界模型的地方,那是我们模拟如果一系列行动实际执行会发生什么的地方,因为我们是一家受监管的企业,所以我们需要这种严格性——我认为这实际上使我们走上了可持续且强大的发展轨迹,我预计很多企业最终都会走到这一步。”
自主式AI的技术挑战
智能体系统需要与整个组织的履行系统协作,且都具有各种权限,在各种上下文中调用工具和API,同时保持高准确性也是一项挑战——从消除用户意图的歧义到生成并执行可靠的计划。
“我们进行了多次迭代实验、测试、评估、人工干预,所有这些正确的指导原则都需要在我们实际推出这样的产品之前完成,”Naphade说,“但最大的挑战之一是我们没有任何先例,我们无法说,哦,别人是这样做的,那效果如何?这里有新颖性的元素,我们是第一次这样做。”
模型选择以及与英伟达的合作
在模型方面,第一资本银行密切关注学术和行业研究,在会议上发表演讲并紧跟最新动态。在目前的应用案例中,他们使用了开放权重模型,而非封闭模型,因为这允许他们进行大量定制。Naphade断言,这对他们来说至关重要,因为AI战略中的竞争优势依赖于专有数据。
在技术栈本身,他们使用了包括内部技术、开源工具链和英伟达推理栈在内的组合工具。与英伟达的紧密合作帮助第一资本银行获得了所需的性能,并在英伟达的库中合作开发了行业特定机会,同时为Triton服务器和他们的TensoRT LLM优先安排了功能。
自主式AI:展望未来
第一资本银行继续在其业务中部署、扩展和优化AI智能体,他们的第一个多智能体工作流程是Chat Concierge,通过公司的汽车业务部署,它旨在为汽车经销商和客户提供购车过程支持。借助丰富的客户数据,经销商正在识别出有诚意的潜在客户,这显著改善了他们的客户参与度指标——在某些情况下提高了55%。
“他们能够通过这个自然、便捷、全天候工作的智能体生成更多有诚意的潜在客户,”Naphade说,“我们希望将这种能力带到更多面向客户的互动中,但我们希望以一种管理良好的方式进行,这是一段旅程。”
企业网D1net(www.d1net.com):
国内头部to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。