回顾2023年，AIGC、大模型、AGI等成为年度热词，其火热程度不亚于曾经的"元宇宙"热潮。与后者不同的是，大模型不只是瞬时的热门话题，已得到了国际权威IT研究咨询机构Gartner的认可。

Gartner近日发布的“2024年十大战略技术趋势报告”的核心内容只有一个，就是生成式AI。Gartner预测，到2026年超过80%的企业将使用生成式AI的API或模型，或在生产环境中部署支持生成式AI的应用，而在2023年初这一比例不到5%。

大模型的普及只是时间的问题，然而，实现可持续的规模化扩展仍然面临一些重要挑战。如何用好生成式AI技术为企业的业务赋能，是多数IT从业者都在思考的问题。

在近日召开的亚马逊云科技生成式AI构建者大会上，亚马逊云科技大中华区产品部总经理陈晓建以“赋能生成式AI新时代，助力数据和AI普惠”为题进行了精彩分享。

亚马逊云科技大中华区产品部总经理 陈晓建

陈晓建提到：“生成式AI不仅仅是大模型，今天，当我们谈论生成式AI时，大多数人都在谈论基础模型，而整个生成式AI应用就像是浮在海面的冰山，露在海面上方能被大多数人看到的冰山一角就像是基础模型，而在冰川的底部，同样需要大量的基础模型以外的服务来支撑，如加速芯片，数据库，数据分析，数据安全服务等等。”

亚马逊云科技提供了完整的端到端的生成式AI技术堆栈，从底层的加速层如加速芯片，存储优化，到中间层模型构建工具和服务，再到最上层的生成式AI相关应用，每一层都在针对客户的不同需求持续创新。

亚马逊云科技希望通过其提供的专为生成式AI打造的工具和服务，实现生成式AI技术的普惠化。为达成“普惠生成式AI”这一使命，亚马逊云科技正在围绕应用场景、工具和基础设施、数据基座、AI原生应用构建和生成式AI服务五个层面，助力企业和开发者释放生成式AI的潜力。

亚马逊云科技大中华区产品部总经理陈晓建

一、从典型场景入手创新业务模式

麦肯锡于今年6月发布的报告显示，在生成式AI技术带来的经济效益中，大约3/4来自四类主要的职能：营销与销售、产品与研发、软件工程和客户运营。这些典型的应用场景带给企业的业务价值主要包含三个方面：一是增强客户体验，二是提升员工生产力与创造力，三是优化业务流程。

陈晓建列举了一些典型的客户案例。如，Salesforce将Amazon Bedrock和Amazon Titan集成到其生成式AI产品中，使客户能够在Salesforce Data Cloud上轻松安全地使用其数据，以构建生成式AI应用;海尔创新设计中心利用生成式AI能够实现文生图、图生图、定量图和全场景图的全面提效，上线后，自动化设计系统应用让相关业务的操作周期缩短了20%;国内知名的游戏客户上海沐瞳科技，正在携手亚马逊云科技使用生成式AI技术Amazon Bedrock，优化游戏开发领域的业务流程。

二、快速构建高性价比的生成式AI应用

基础模型的发展和迭代是日新月异的，而新出现的每一个大模型都在性能和特定领域有着独特的优势。亚马逊云科技的CEO Adam Selipsky认为，没有一个基础模型可以适用于所有的业务场景。面对庞大的模型基数，对企业级用户而言，如何根据自身的场景选择合适的基础模型，是每一家企业在构建生成式AI应用时面临的挑战。

为帮助客户应对这一挑战，亚马逊云科技正式发布了Amazon Bedrock，帮助客户简化了使用基础模型构建和扩展生成式AI应用程序的难度。该服务与Amazon SageMaker Jumpstart结合，可助力对基础模型有着不同需求的客户轻松、安全地选择基础模型。

Amazon Bedrock是一项无服务器服务，提供了广泛的模型选择、数据隐私，且能够自定义模型，无需去管理底层的基础设施。据悉，Amazon Bedrock提供的基础模型来自Meta, Anthropic, Stability AI, AI21 Labs、Cohere等第三方领先提供商以及自身的Amazon Titan模型等。

Amazon SageMaker需要客户管理应用程序架构中的模型部署、配置和托管，但拥有更大的灵活度和自由度对基础模型进行定制，客户可以从Amazon SageMaker Jumpstart中选择开源的基础模型，然后根据自身需求可以选择全量微调，轻量微调等不同方式，进一步确定微调框架，利用分布式训练实现微调，从而更好的评估微调效果。

基础模型本身存在局限性，即使是预订航班或退货这类简单的功能，也需要开发人员经过多个步骤才能实现。而Amazon Bedrock代理功能作为一项全新的全托管功能，能使开发人员更轻松地创建基于生成式AI的应用程序，完成各种用例的复杂任务，并根据专有知识源提供最新的答案。只需进行简单操作，Amazon Bedrock 代理功能就会自动分解任务并创建编排计划，无需任何手动编码。

除此之外，亚马逊云科技还能为客户提供广泛的高性价比的加速器选择，包括强大而灵活的基于GPU的解决方案，例如基于英伟达最新GPU芯片H100 Tensor Core的Amazon EC2 P5实例，与上一代相比速度快6倍，训练成本节省40%。还有Amazon EC2 Inf2实例和Amazon EC2 Trn1实例，与同类实例相比更具性价比。据悉，OPPO、Airbnb、Sprinklr和 Autodesk等企业都在使用这些专用加速器来处理其机器学习工作负载。

三、运用私有化数据打造差异化的竞争力

麦肯锡在其报告中提到：如果企业尚未找到有效使用自身数据的方法，那么可能很难对生成式AI的基础模型进行定制化。能够成功构建一个具有商业价值的生成式AI应用程序的公司，无一例外都是能够把数据用好的公司。而用好数据的前提是具备一个强大的数据底座。

面向生成式AI构建强大的数据底座，需要一套全面的服务，以便能够存储用于构建和微调模型的各种类型的数据;还需要服务间的集成，以打破数据孤岛，确保能够随时访问所有数据;还需要在构建生成式AI应用程序的整个生命周期中，确保数据安全并对其进行管理。

在服务层面，亚马逊云科技针对生成式AI领域的用户个人信息、会话信息管理、私域知识库等应用场景都提供了专门构建的数据库。针对检索增强生成(RAG,Retrieval Augment GenerationRAG)需要处理的向量数据，亚马逊云科技为Amazon OpenSearch Service、Amazon Aurora PostgreSQL和 Amazon RDS for PostgreSQL加入了向量数据库功能。

在数据集成层面，ETL(数据的抽取Extract，转换Transform，加载 Load)是端到端数据旅程迫切需要解决的问题，亚马逊云科技提出“Zero-ETL”的愿景，并采用了相应的创新，如推出的Aurora Zero ETL for Redshift Integration, 允许存储在Amazon Aurora中实时产生的业务数据，无需ETL工具，以自动的方式同步到数据仓库Amazon Redshift中，以供近实时的进行海量数据的聚合分析。

在数据治理方面，亚马逊云科技提供全新的Amazon DataZone数据治理服务，让客户能够跨组织边界发现、访问、共享和治理大规模数据，并减少企业内部成员访问数据和使用分析工具时繁重的工作量。

四、构建AI原生的现代化应用的五个关键点

结合亚马逊服务百万客户的经验，陈晓建总结：构建一个AI原生的现代化的应用需要考虑以下五个方面。

一是微服务化。通过一个事件驱动的架构，松耦合地处理每个模块之间的互相依赖，即使需求不断变化，应用仍具备保持快速进化和迭代的能力。

二是Serverless First。尽量考虑让Serverless去做，简化运维，提升效率。

三是数据洞察。数据是最重要的资产。在整个生成式AI应用的设计之中，要把数据能力作为应用的核心竞争能力。

四是安全考量。要关注安全的围栏、影响面的控制，减少爆炸半径，充分重视安全和数据合规与保护。

五是避免重复造轮子。伴随企业对DevOps等现代应用治理理念的持续投入，促进了企业内部的应用资产与实践的分享，有助于构建高效敏捷的构建者文化。

五、使用开箱即用的生成式AI服务加速开发进程

编程是生成式AI技术快速应用的领域之一。复制一些已有的代码来进行修改，可能会复制无效代码或带有安全隐患的代码，而且多数企业缺乏对开源代码进行有效追溯的手段。

Amazon CodeWhisperer可以实时提供编程的代码建议，提升开发人员的生产力。与未使用这款服务的开发者相比，使用Amazon CodeWhisperer来完成任务的速度平均快57%，成功率高27%。

值得一提的是，Amazon Whisperer还支持自定义功能，能够生成优于之前的代码建议，允许客户使用私有代码库安全地定制 CodeWhisperer代码建议，这些私有代码库包括内部API、数据库、最佳实践和架构模式等。

最后，陈晓建表示，“如何加速客户最终应用的商业化落地，除了亚马逊本身的资源以外，我们同样需要构建强大的合作伙伴生态，携手助力解决生成式AI应用构建中的各种技术问题，加速应用落地。”

除了云服务之外，亚马逊云科技还提供解决方案架构师、产品技术专家、人工智能实验、数据实验室、快速原型团队、专业服务团队、培训与认证部门等多个资源共同助力客户成功，同时携手生态合作伙伴与初创圈，构建生成式AI的大生态，进一步助力生成式AI技术的落地，加速实现普惠生成式AI这一愿景。