美国第一资本投资国际集团负责企业AI的执行副总裁兼主管Prem Natarajan表示，GenAI的成本经济性正在发生如此巨大的变化，以至于尝试使用传统金融工具来计算和预测AI的投资回报率是错误的做法。

“在过去的22个月里，在性能相当的基础上，推理成本已经降低了超过1000倍，”Natarajan告诉记者，“两年前，进行一次推理需要花费10美元，而现在只需要1美分，在这种成本急剧变化的环境下，任何将重点放在近期对投资回报率进行稳健预测，以此作为投资GenAI的理由的做法，都很可能会失败。”

Natarajan将这种经济变化描述为“正处于一代人的转折点”，他认为，鉴于CIO们在面对变革性技术时“对计算投资回报率的执着”，那些采用这种方式来预测投资回报率的CIO“正在做出不可逆转的错误决策，这将使他们落后于人”。

Natarajan于2023年3月加入美国第一资本投资国际集团，此前他在亚马逊担任了近五年的Alexa AI副总裁。他估计，在美国第一资本投资国际集团，他管理的数据量“将达到数百拍字节，并在几年内接近艾字节级别”。据Natarajan介绍，这笔数据财富是美国第一资本投资国际集团充分利用AI的关键资产，他认为数据治理和可访问性是AI成功的另外两个关键要素。

跟踪AI领域的Moor Insights & Strategy副总裁兼首席分析师Jason Andersen表示，Natarajan对于CIO们面临的投资回报率问题的看法是合理的。“像美国第一资本投资国际集团这样的企业已经开始非常聪明地部署AI和构建AI应用程序，”Andersen说，“现实是，我们从未见过技术发展的趋势如此之快——从未。”

Andersen补充说，这种速度让许多IT高管措手不及，因为他们一直行之有效的技术手段现在不再奏效了。“在这种绝对的速度下，你会发现，那些试图弄清楚该投资多少的旧有规范，已经不再是有用的工具了，”他说，“如果你使用传统方法，你就无法理解它。”

尽管Andersen同意推理价格已经大幅下降，但他表示，“现实是，我们现在要求完成更复杂的任务，与两年前相比，现在的查询可能要复杂1000倍。”他说。

利用云和数据的优势

当Natarajan于2023年3月加入美国第一资本投资国际集团时，ChatGPT才刚刚问世四个月。尽管GenAI在当时已经使用了大约15年，但直到OpenAI推出ChatGPT后，它才在首席执行官和董事会层面获得了广泛关注。

“我最初的八到九周非常令人兴奋，我们每周至少开会三次，每次会议都持续多个小时，”Natarajan说，“到五月底，我们已经就前进道路达成了一致，到六月，我们实际上已经开始动手敲代码了。”

他说，对于几乎任何形式的AI，“你的数据优势就是你的AI和机器学习优势”。

“我们拥有的大量专有数据是构建GenAI应用程序和能力的宝贵资产，这将使我们脱颖而出，”Natarajan说，他强调他们的评估表明，“我们不能使用闭源模型，因为你无法对这些模型进行有意义的定制。”

美国第一资本投资国际集团的AI团队最终选择使用Meta的开源Llama大语言模型(LLM)，并在其公有云基础上构建AI解决方案，该公有云基础是在Natarajan加入该公司之前建立的。

“美国第一资本投资国际集团是第一家——也是目前唯一一家——完全采用公有云的银行，他们用了两年时间关闭了所有数据中心，并将一切迁移到了AWS上，”Natarajan解释说，“我们成为了云原生开发者。”

在美国第一资本投资国际集团，该公司雇佣了大约14000名IT专家，人才至关重要，但数据也同样重要——或许更为重要，Natarajan说。

“你可以建立一个一流的技术组织，但你无法在一夜之间创造出三十年的数据积累，你买不到它，谁会卖呢?”他问道，“我们说的是非常深入的数据——不仅仅是你可以从Visa或万事达卡获得的交易数据。”

据Natarajan介绍，数据质量和可发现性也是主要关注点，企业的数据存储中可能藏有数以万亿计的见解，但如果数据不干净或不可发现，那些见解就遥不可及。

特别是非结构化数据，“传统机器学习算法基本上无法触及，”他说，“因此，所有埋藏在非结构化数据中的见解和能力一直被埋没，直到现在GenAI的出现。”

至于许多GenAI部署中存在的数据可靠性问题，包括幻觉(hallucinations)在内，美国第一资本投资国际集团通过严格限制允许查询的信息范围，仅限于公司内部数据，从而避免了大部分问题。

“我们不必回答世界上所有关于随机信息的好奇心，”Natarajan说，“我们只试图回答那些对我们客户来说非常具体的问题的答案，这些答案来自我们精心整理的知识库和数据库，我们只回答我们有答案的问题。”

该公司还定制了数据保护措施，通过人工介入严格检查AI输出，并广泛利用检索增强生成(RAG)技术。

“我们正试图减少人工修改答案的次数，理想情况下，我们希望这个次数降为零，”Natarajan说，“每次人工进行修正时，你都会尝试从中学习。”

美国第一资本投资国际集团的代理服务模型已经取得了成效，帮助客户服务代理更高效地解决客户问题，他说。

“例如，如果客户打电话询问被拒绝的卡片交易是否会计入他们的每日卡片限额，我们的代理可以使用这个工具实时快速搜索相关信息，使他们能够比以往更快地提供可靠信息，”他解释说，“使用这个工具后，我们看到与传统的非GenAI工具相比，高度相关的搜索结果比例从84%提升到了93%。”

该公司还部署了一款名为Chat Concierge的智能体AI工具，以帮助通过美国第一资本投资国际集团提供汽车贷款的汽车经销商。

“Chat Concierge由多个逻辑智能体组成，它们协同工作以模拟人类推理，而不仅仅是向客户提供信息，还能根据他们的请求代表他们采取行动，”Natarajan说，“在一次对话中，Chat Concierge可以执行诸如比较车辆以帮助购车者决定最适合他们的选择，以及安排试驾或与销售人员的预约等任务。一些汽车经销商报告称，使用该工具后客户参与度提升了高达55%，并且自今年早些时候部署以来，我们已经将其延迟降低了5倍。”

为成功准备数据

对于Natarajan来说，成功的秘诀在于数据——其治理、质量、可靠性和可发现性。

“许多正在尝试进行GenAI转型的公司，如果他们不大幅调整注意力以准备好他们的数据，那么他们将不会成功，”Natarajan说，“GenAI技术非常擅长从大量数据集合中学习细微模式，但如果你不给他们提供大量数据，他们基本上就受到限制了，他们只能学习他们所接触到的数据中的模式。”

Moor公司的Andersen说，做出合理的架构决策也有助于影响GenAI项目的成果，他指出，在美国第一资本投资国际集团的案例中，部署开源模型的决定是明智的。

“这显示了一种在许多企业中今天都未看到的进化思维水平，”他说，并补充说，在可用的模型中保持灵活性也至关重要，美国第一资本投资国际集团通过选择AWS作为其云平台强调了这一点。

“亚马逊已经表示，他们支持许多不同的模型，他们不像谷歌和微软那样投资于自己的内部模型，”Andersen指出，并补充说AWS的方法提供了“最大的灵活性和适应性”。

企业网D1net(www.d1net.com)：

国内头部to B IT门户，旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。