导致挫败感和延误的原因众多，从人才短缺到持续的数据质量问题不一而足，但根据我们过去两年与超过150家公司合作开展GenAI项目的经验来看，在构建过程中几乎总会遇到两个主要障碍：

• 创新失败：流程限制、缺乏专注以及重复性的返工扼杀了创新。那些本应解决有价值问题的团队，却往往被困在重复实验或等待合规团队的审批上，而这些合规团队自己也难以跟上开发的步伐。在我们的经验中，团队在GenAI方面的“创新”时间中，大约有30%至50%都花在了使解决方案符合规定或等待企业的合规要求明确且可行上，团队致力于解决无关紧要的问题，重复工作，创造出无法重用的定制化解决方案，且这些方案往往无法产生真正的价值。

• 扩展失败：风险担忧和成本超支阻碍了扩展。对于少数展现出真正价值潜力的解决方案，企业在从原型到生产的跨越过程中大多遭遇失败，在扩展GenAI应用时，安全和风险担忧(包括声誉风险)被单独处理，变得过于庞大且成本高昂，难以克服。

通常，这些问题会在公司试图从试点阶段过渡到运营规模时依次出现，尽管在某些情况下，公司可能会同时遇到这些障碍。不幸的是，它们可以迅速使整个GenAI项目脱轨，而不仅仅是单个应用。尽管错误结果或幻觉带来的风险和努力是这一过程的一部分，但过早的失败(例如，信息与品牌不一致或违反政策)会在高管中引发过度担忧，他们可能并未充分准备或熟悉测试过程。在某些情况下，这些糟糕的测试结果导致企业彻底关闭GenAI项目，这不仅阻碍了创新，还中断了新技能和能力的发展，最终使公司离其预期的价值目标越来越远。

无论是顺序发生还是同时发生，这些问题往往归结为快速推进与谨慎行事之间的权衡。经验告诉我们，这是一个错误的抉择。如果公司在构建平台时深思熟虑——一个集中化的验证服务集合(例如，伦理提示分析、大型语言模型(LLM)可观测性、预批准提示库、多云自动化和访问控制)和资产(例如，应用模式、可重用代码和培训材料)，这些服务和资产易于查找和使用(并可重用)，那么公司就能在管理风险的同时实现创新。将这些功能集成到一个单一平台中，可以确保产品更高效地满足合规要求，根据我们的经验，这有助于几乎完全消除通常所需的30%至50%的非必要工作。

我们为各行各业的公司构建数十个GenAI解决方案的经验表明，最成功的GenAI平台包含三个核心组件：

1. 自助服务门户

支持创新和扩展需要分布式的GenAI能力，以便业务中的数十个甚至数百个团队能够轻松且安全地访问工具和服务。一个安全且合规的自助服务门户可以通过两种方式满足这一需求：

• 开发者赋能：为了有效，该门户及其底层基础设施(例如，OpsLevel、Cortex、Port)应提供对所有验证过的GenAI产品和功能的单一访问点。通过这种方式，开发者可以在几分钟内实例化预存在的应用模式，并开始使用预配置为安全和可扩展的批准功能开发他们的特定解决方案。门户的网页界面应融入用户设计原则，如简单的点击过程来配置和部署GenAI产品，以及提供一个企业良好的文档和学习模块库，涵盖所有GenAI主题(例如，如何部署新资源，如何利用现有应用程序)，以允许开发者提升自己的能力。最好的门户允许贡献模式，即企业中的开发者可以贡献内容和功能(例如，新库和应用模式改进)。

• 访问管理服务：这个集中式门户还可以提供对GenAI管理服务的访问，如可观测性和分析仪表板，以及内置的预算控制和报告，以防止成本超支。使数据访问控制、跟踪治理和审批流程以及了解应用程序的当前状态变得简单，使企业能够自信地运营数百个应用程序。这些控制可以根据环境(例如，临时沙盒的低预算，高容量测试账户的高预算)进行定制，并与AI网关的成本治理组件集成，使团队和IT领导者能够监控持续的开发成本。

2. 开放架构以重用GenAI服务

技术在扩展方面的关键是最大化重用。实现重用依赖于开发一个开放的模块化架构，该架构能够集成并轻松交换可重用的服务和功能，这种开放架构方法还可以显著降低总拥有成本。

领先的企业专注于开发两组可重用的功能：针对常见原型的完整GenAI应用模式(例如，知识管理、客户聊天机器人或代理工作流程)和数据产品(例如，RAG和GraphRAG);以及大多数GenAI应用中使用的通用库(例如，分块和嵌入、数据重新排序、提示丰富或意图分类)，许多这些核心功能可以作为服务提供。

虽然倾向于选择单一提供商来提供所有GenAI服务很诱人，但这种方法往往适得其反，因为提供商的功能可能并不适合公司的所有特定需求，并限制了对最佳功能的访问。随着技术的快速发展，使用提供商提供的服务(公司自身具有专有优势的除外)更有意义。因此，GenAI平台应专注于通过开放架构实现集成、配置和访问。

开放架构的核心构建块是基础设施即代码与策略即代码相结合，以便在核心层面轻松进行更改，并由平台上的解决方案快速轻松地采用。平台提供的库和组件服务应由一组清晰且标准化的API支持，以协调对GenAI服务的调用。

3. 自动化、负责任的AI护栏

为了降低风险、管理持续合规并提供成本透明度，GenAI平台应实施自动化治理护栏，一个例子是在软件开发生命周期或解决方案操作的特定点自动触发微服务，以审查代码是否符合负责任的AI标准，这些护栏应自动审计LLM提示和响应，以防止数据政策违规(例如，在输入数据中使用个人可识别信息[PII])，验证LLM输出的合规性(即检测幻觉、数据泄露和伦理偏见)，跟踪成本影响(例如，LLM推理和向量数据库查询的成本)，并提供将成本追溯到单个解决方案的能力。如果实施得当，平台可以通过允许应用程序团队将时间花在构建产品和服务上，而不是处理安全和扩展的细节，从而加速合规和更有效的成本管理，并加速用例的安全实施。对于一家大型石油和天然气公司来说，这种方法将新GenAI环境的配置时间从六周多缩短到不到一天即可获得专用、功能齐全的GenAI创新沙箱。此外，GenAI平台通过多达90%的加速审批流程，因为审查团队可以快速验证应用程序是否使用了批准的共享服务。

实施这种独特平台需要纪律和时间，但从长远来看，其在价值和速度方面的回报远远超过了投入，通常在部署几个解决方案后即可实现盈亏平衡，这种基于平台的做法对于加速创新、大规模运营、避免常见但致命的陷阱以及允许公司捕捉GenAI的承诺至关重要。

企业网D1net(www.d1net.com)：

国内头部to B IT智库，旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。