亚马逊云科技:以创新为翼,让AI落地有声

责任编辑:lijing

作者:赵立京

2024-12-26 10:23:50

来源:企业网D1Net

原创

随着生成式AI的兴起,亚马逊云科技在2023年推出了生成式AI三层技术栈,旨在帮助各行各业更好地拥抱生成式AI时代。这一技术栈包括底层的基础设施、中间的构建和扩展工具以及顶层的开箱即用的企业级生成式AI助手。

在当今科技日新月异的时代,AI已成为推动各行各业发展的强大引擎。作为全球领先的云计算服务提供商,亚马逊云科技在人工智能领域的布局尤为引人注目。从早期的基础设施建设到如今的生成式AI三层技术栈,亚马逊云科技始终走在技术前沿,推动着人工智能的发展和应用。

亚马逊云科技的AI之旅始于其强大的基础设施建设。自2006年推出首个云服务Amazon S3以来,亚马逊云科技不断扩展其服务范围,涵盖计算、存储、数据库、网络、数据分析等多个领域。通过消除管理基础设施和数据中心的冗余工作,亚马逊云科技成功将网络、存储、数据库和计算等技术转变为可配置资源,为全球数百万客户提供了高效、灵活的云服务。

在推动AI发展的过程中,亚马逊云科技尤其注重自研芯片和计算架构的创新。从2018年推出基于ARM架构的第一代Amazon Graviton芯片开始,亚马逊云科技已经推出了六代Nitro系统、四代Graviton、两代Trainium和Inferentia等自研芯片产品组合。这些芯片在性能优化、安全性提升和AI工作负载处理方面均表现出色,为亚马逊云科技的AI服务提供了强大的算力支持。

随着生成式AI的兴起,亚马逊云科技在2023年推出了生成式AI三层技术栈,旨在帮助各行各业更好地拥抱生成式AI时代。这一技术栈包括底层的基础设施、中间的构建和扩展工具以及顶层的开箱即用的企业级生成式AI助手。

底层基础设施以GPU和自研芯片为代表,用于基础模型的训练和推理。中间层则以Amazon Bedrock为代表,提供了可以访问所需基础模型以及构建和扩展生成式AI应用程序的工具。顶层则是以Amazon Q为代表的企业级生成式AI助手,让用户无需专业知识即可快速上手生成式AI。

在近日召开的re:Invent 2024中国行上,亚马逊云科技大中华区产品部总经理陈晓建,深入介绍了亚马逊云科技在生成式AI领域取得的突破和进展。他表示,生成式AI正在重塑每一个行业,为IT从业者带来了巨大的机会,特别是在初创企业中,云计算和生成式AI的结合已成为其迈向成功的重要推动力。

亚马逊云科技大中华区产品部总经理  陈晓建

基础设施层:打造AI时代的算力基石

在AI领域,算力是决定模型性能和训练效率的关键因素。亚马逊云科技在算力方面持续投入,推出了多款自研芯片和实例,以满足不同场景下的AI需求。

Trainium系列芯片是亚马逊云科技针对大模型训练推出的专用芯片,预计将于2025年末上线的Trainium3将采用先进的3nm工艺,性能是Trainium2的两倍,能效提升40%。这些芯片为亚马逊云科技提供了强大的算力支持,使得客户能够高效地进行大模型训练。

此外,亚马逊云科技还推出了EC2 Trn2实例和Trn2 UltraServer等高性能计算实例,这些实例基于亚马逊云科技自研的NeuronLink技术互联,提供了超高的算力密度和极低的延迟,适用于大规模模型训练和推理任务。

数据层:构建AI时代的数据基石

数据是AI模型训练的“燃料”,亚马逊云科技在数据层也进行了全面布局。亚马逊云科技推出了SageMaker Lakehouse,这是一套兼容Apache Iceberg的数据湖仓服务,提供了简单统一的数据接入与访问控制,使得数据集成更加简单高效。

同时,亚马逊云科技还推出了Amazon S3 Tables和S3 Metadata元数据服务等创新功能,进一步提升了数据查询和分析的效率。这些服务使得客户能够从PB级甚至EB级的数据中快速找到所需信息,为大模型训练提供优质的数据饲料。

模型层:提供全托管的模型服务平台

在模型层,亚马逊云科技推出了Amazon Bedrock全托管模型服务平台,这是构建和拓展大模型应用的最简单方式。

Amazon Bedrock作为构建与扩展生成式AI应用的核心平台,已经成功为客户提供了将推理功能融入生产环境的关键工具,并实现了显著价值。Amazon Bedrock推出的一系列创新功能则进一步提升了其服务能力和用户体验。

新发布的延迟优化选项,基于Amazon EC2 Trn2实例,凭借最新的硬件和软件优化技术,可在多个模型上实现卓越的推理性能。用户只需指定推理请求的优先级,平台即可自动处理。目前,该功能已面向特定模型开放预览,其中Llama 405B模型在延迟优化版本中的性能得到了显著提升,而Anthropic的Claude 3.5 Haiku模型在延迟优化版中的处理速度也大幅提高。

此外,Amazon Bedrock还推出了模型蒸馏功能,用户只需提供示例提示,平台即可自动完成蒸馏工作。通过这一功能,得到的模型运行速度可提升至原来的5倍,成本降低75%,从而大幅提高了生成式AI项目的投资回报率。

在知识库方面,Amazon Bedrock现在支持GraphRAG,利用Amazon Neptune自动生成图谱,建立数据源之间的关联。无需专业知识,用户即可开发出更全面的生成式AI应用。该功能能够清晰展示连接和信息来源,提升事实验证的透明度,并通过API调用让应用生成更准确的响应。

为了预防模型幻觉引起的事实性错误,Amazon Bedrock还推出了自动推理检查功能。该功能基于数学验证,检查模型事实性陈述的准确性,并展示推理过程,确保在如保险等领域中回答的准确性。

最后,Amazon Bedrock的多智能体协作功能支持多个Agent协作处理复杂工作流程。用户可以为特定任务创建一系列独立Agent,并设置监督Agent来负责信息访问权限的设置、任务执行方式的决定以及协作的确保。这一功能让用户无需单独管理Agent,即可轻松处理复杂任务。

此外,亚马逊云科技还推出了自研的Amazon Nova基础模型。该系列模型涵盖了从文本到文本、多模态等多种类型,包括低成本的Nova Micro、快速处理多种输入的Nova Lite、平衡准确性、速度和成本的Nova Pro,以及即将推出的、能力最强的多模态模型Nova Premier,可处理复杂推理任务并指导定制模型蒸馏。此外,新一代图像生成模型Amazon Nova Canvas不仅能生成高质量图像,还支持图像编辑功能,最高可生成2K分辨率的图像,并即将开放模型微调功能。同时,新一代视频生成模型Amazon Nova Reel以先进的视频生成质量和低延迟为特点,提供了性能和成本效益之间的平衡,其文本到视频和文本视频生成功能更是让视频制作变得普惠化。

应用层:打造强大的AI生产力工具

在应用层,亚马逊云科技推出了Amazon Q智能助手这一全新的工具,旨在帮助没有生成式AI专业能力的业务人员也能快速便捷地使用生成式AI功能。

Amazon Q系列产品,包括Amazon Q Developer和Amazon Q Business,致力于为不同场景提供强大的生成式AI支持。

Amazon Q Developer方面,新发布的软件开发Agent在SWE-bench测试中表现优异,已能解决54.8%的软件开发问题,且在七个月内能力提升两倍多。同时,推出的三款新自动化智能体,分别能实现自动执行单元测试、文档生成和代码审查流程,大幅提升开发效率。此外,Amazon Q Developer还推出了新功能,加速大规模传统工作负载的转型,包括将.NET应用从Windows迁移到Linux的速度提升4倍,成本节省高达40%;将VMware工作负载迁移到云原生架构,时间从传统的数周或数月降低至几小时,大幅降低风险;解决大型主机迁移问题,预计缩短迁移时间,并将大型主机现代化的时间缩短最多50%。同时,Amazon Q Developer还能更轻松地帮助客户排查亚马逊云科技环境中的各类问题,提升运维效率。

Amazon Q Business则是一款功能强大的生成式AI助手,既能充分利用公司内部数据,又能加快任务处理速度。它能连接企业数据源、亚马逊云科技、第三方应用和维基百科等各类业务系统,让用户能在不同的数据孤岛中搜索、总结信息,并展开对话。纳斯达克、Principal Financial Group和埃森哲等公司都在使用Amazon Q Business,显著提升了员工的工作效率。 去年,亚马逊云科技在QuickSight中集成了Amazon Q,让用户能更快获取见解,轻松提问并分析数据。目前,即将实现Amazon Q in QuickSight与Q Business数据的无缝整合,提供数据洞察,成为企业数据源标准索引,提升应用性能。同时,新发布的API让独立软件供应商能访问Amazon Q Business索引功能,实现权限控制的精细化和自主管理,降低安全风险。即将推出的Amazon Q Business Automate功能,将帮助企业实现跨团队、跨应用的任务自动化,采用一系列经过训练的高级智能体来创建、编辑和维护工作流,使其更能适应各种变化,从而大幅提升生产力。

持续引领AI创新与发展

从早期的基础设施建设到如今的生成式AI三层技术栈,亚马逊云科技的AI发展历程充满了创新和突破。通过自研芯片、计算架构的优化以及生成式AI技术的推动,亚马逊云科技不仅为全球数百万客户提供了高效、灵活的云服务,还为人工智能的发展和应用做出了重要贡献。未来,随着技术的不断进步和应用场景的不断拓展,亚马逊云科技将继续在AI领域发挥引领作用,让AI落地有声。

链接已复制,快去分享吧

企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号