2018年时,很少有人使用“助手”一词,更不用说“自主式AI”了,但美国银行组建了一个由软件工程师、语言学家和银行业专家组成的团队,打造了这款小型语言模型,该模型多年来根据呼叫中心收集的客户反馈数据不断优化。
美国银行消费者、商业和财富管理技术部门负责人哈里·戈帕尔克里什南(Hari Gopalkrishnan)表示,Erica之所以能够成功且经久不衰,关键在于其规模较小。
“我们不是用Erica来写文章,也不是开发软件,而是试图理解客户简短的信息需求,因为他们不想在屏幕上有着50个不同选项的菜单中来回查找和选择,而我们要做的就是理解客户的真实意图,比如当他们说‘我想支付账单’时,他们到底是什么意思?”戈帕尔克里什南说道,“我们该如何理解客户想要的简短对话内容?
“我们训练模型来做到这一点,”他谈到这款基于开源模型打造的Erica时表示,“随着时间的推移,它的准确率从80%提升到85%,再到90%以上,这让我们对模型的预测更加精准。”
戈帕尔克里什南表示,疫情期间,美国银行对Erica进行了调整,使客户能够申请薪资保护计划(PPP)贷款,处理多种业务及消费需求。随着GenAI和自主式AI产品的发展,他将予以接纳,但他认为,该行的大部分客户需求都可以自主研发。
如今,超过2000万的银行客户都在使用Erica虚拟助手。此外,该行20多万名员工中,超过90%的人都在使用面向员工的Erica,使得IT服务台的电话呼叫量减少了50%以上。
银行依靠AI
2025年,美国银行将斥资数十亿美元用于AI投资,为员工、银行客户和美林(Merrill Lynch)代理(Ask Merrill)提供增强的搜索和协助功能。
戈帕尔克里什南表示,该行已经在利用GenAI应用程序和试点项目,这些项目已经超越了概念验证阶段。例如,开发人员使用基于AI的工具辅助编码,据称效率提高了20%以上。
GenAI还被顾问用于为客户会议做准备,每年为客户参与和增长节省了数万小时的时间。此外,GenAI还被用于呼叫中心优化,但该公司拒绝透露使用的工具。
美国银行“自主研发”的一款GenAI平台使全球市场销售与交易团队能够“更快速、高效地搜索、总结和合成市场研究和评论”,该行表示。
戈帕尔克里什南重视代理和现有编排技术在处理消费者和企业银行业务方面的实际应用,而非仍在测试中的复杂自主式AI技术,并指出许多被过度吹嘘的技术(如元宇宙和增强现实)尚未转化为银行业客户的业务用例。
但戈帕尔克里什南看好计算机视觉和基础模型的多模态能力,他计划利用这些技术提升客户满意度。
不过,Erica仍将是客户和员工体验的代表——随着需求的出现,其后端将增加更先进的推理能力。
混合云推动创新
美国银行每年在技术上投入130亿美元,并与未具名的咨询公司合作,而不是单打独斗。
戈帕尔克里什南同时担任该行八个业务部门中六个部门的CIO,他表示,美国银行采用的是基于多年来运营的虚拟私有云的混合“托管策略”,并根据需要使用公共云。美国银行与微软、AWS、谷歌和其他云服务商都有合作,但和许多银行CIO一样,戈帕尔克里什南出于成本和安全方面的考虑,更倾向于将工作负载留在内部。
“我们在扩展规模方面非常有效,这让我们不必为突发流量付费,”戈帕尔克里什南说道,并补充说,看到一些组织将业务从云计算中撤出“很有意思”。
“我们始终表示,我们不会让摆动过度,导致偏离方向,”这位CIO说道,“我们的观点是,我们基本上采用的是托管策略,我们的虚拟私有云中有多个可用区,我们广泛地使用虚拟私有云,并根据需求,可以基于用例(无论是为其他软件供应商还是为我们自己)将数据爆发到公有云。”
美国银行也在继续加大对主机的投入,这有助于该行应对近期股市的大幅波动。
“主机仍然是一个非常重要的战略平台,但随着时间的推移,我们已经实现现代化,弄清楚哪些工作负载更适合在分布式环境中运行,哪些工作负载应该横跨多个可用区实现更横向的可扩展性,以及哪些工作负载如果我们投入大量资金重写会是不负责任的。”他说道。
随着美国银行继续进军分析和AI领域,数据聚合和数据清洗也已成为其行动计划的一部分,他暗示,Hadoop和Snowflake等是正在使用的数据平台。
“我们一直在推动数据计划现代化,”戈帕尔克里什南说道,“我们在数据分析方面有着大量的工作,从正确的地方获取数据,确保数据的准确性、合规性和可控性。”
他补充说:“我们在AI方面所做的一切都要经过一个包含16个不同支柱(如偏见和透明度)的治理流程。”
进军GenAI领域
随着该公司进一步深入GenAI领域,实用性将成为技术选择的核心目标——尽管戈帕尔克里什南承认美国银行可能会使用更先进的基础模型,但这家金融服务公司将探索最简单的解决方案来产生结果,并且不会依赖于任何单一供应商。
“我们的目标是实现模型不可知论(model-agnostic),因为随着时间的推移,行业会发生重大变化。推理会出现,代币定价会变化,新的创新会出现,”他说道,“我们不想依赖于任何给定模型。本质上,我们会研究一个用例,研究数据分类,研究我们的能力,然后结合实际情况,找出解决问题的正确方案。”
戈帕尔克里什南表示,基础模型的训练、推理和推理创新非常出色,但他将继续使用现成的方案和成熟的解决方案,来满足客户和员工的不断变化的数字化需求,他不想用新的平台取代旧的。
“我们不会盲目追求刚发布的新事物,因为利用已经通过简单的常识性智能体和基本编排实现的方案,还有很多工作可以做。”他说道。
Forrester分析师布莱恩·霍普金斯(Brian Hopkins)称美国银行的技术策略为“务实精准”,并指出,已经处理了24亿多次互动、留存率高达98%的Erica,是在不损害信任的情况下扩大数字参与度的经典案例。
“他们采取了更加谨慎的方式进入GenAI领域,但我认为,这最终可能会成为明智之举,”他谈到这家美国第二大银行时说道,“信任是银行业的命脉,而GenAI仍然存在幻觉、缺乏可解释性和安全隐患等风险。当美国银行已经构建的东西行之有效时,为什么要冒信任受损的风险呢?考虑到他们的规模,如果出错,将代价高昂,这不是像咨询这样的知识密集型业务,GenAI已经产生了更为直接的影响。”
如今,在进入GenAI阶段时,美国银行是从优势地位出发的——拥有干净的数据、清晰的业务目标和丰富的AI运营经验,这位分析师补充道。他们的“一次投资,多次复用”的模型从长远来看可能会带来巨大的回报。
“最终,虽然他们并不张扬,但我发现他们默默耕耘,卓有成效,”霍普金斯说道,“一旦GenAI领域的尘埃落定,我毫不惊讶他们会超越竞争对手。”
企业网D1net(www.d1net.com):
国内主流的to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。