几年前，企业云相关的讨论遵循着一种熟悉的模式。团队讨论迁移遗留应用程序、实现基础设施现代化以及降低数据中心成本。目标很明确：将工作负载迁移至可扩展的云平台，以获得运营灵活性。

但近几个月来，这些讨论的基调发生了巨大变化。

在我参与的架构评审和基础设施规划会议中，现在提出的问题截然不同：

• 模型训练将在何处运行?

• 我们能否使用GPU集群?

• 我们的数据管道能否支持实时推理?

原因很简单：AI，尤其是生成式AI，正推动企业基础设施超越传统云架构的设计承载能力。许多企业发现，未来不仅仅是“云优先”，而是“AI原生”。

当AI成为突破云承载能力的工作负载

在许多企业中，转折点出现在团队首次尝试大规模部署生成式AI时。

业务部门可能希望构建一个基于大语言模型的文档智能系统、内部知识助手或预测分析平台。从理论上讲，这看起来不过是另一个云工作负载，但实施过程很快揭示了其中的差异。

AI工作负载与传统企业应用截然不同，它们需要海量数据集、GPU加速计算以及能够持续为机器学习模型提供数据的高吞吐量数据管道，为事务性系统设计的基础设施在这些条件下往往难以应对。

我曾亲眼目睹团队在现有云环境突然成为瓶颈时发现这一问题——不是因为应用流量，而是因为AI模型训练工作负载，这一刻，许多企业意识到：AI不仅仅是云中的另一个应用，它是一种新的基础设施范式。

在某些情况下，即使是架构良好的微服务环境也难以跟上节奏，暴露出存储I/O、网络延迟和工作负载隔离方面的局限性，这些隐藏的约束往往仅在持续的AI工作负载下显现，使得在初始规划阶段难以预测。

AI原生基础设施：GPU集群与高性能计算

传统的企业云环境针对基于CPU的工作负载和事务性应用进行了优化，相比之下，AI系统则优先采用GPU加速计算、高带宽网络、分布式存储和可扩展的训练管道。

像AMD ROCm这样的工具凸显了向GPU原生生态系统的转变，提供了一个专门为高性能AI工作负载设计的全栈平台，但采用GPU基础设施不仅仅是提供容量，更重要的是高效利用。

许多企业低估了GPU调度、内存碎片和工作负载争用的复杂性。与可以轻松分配的CPU工作负载不同，GPU工作负载需要精心编排以避免利用率不足。

这些平台表明，AI工作负载正在重塑云基础设施的设计方式——从以CPU为中心的计算层转变为针对大规模并行性和高吞吐量数据处理进行优化的AI原生架构。

此外，专用AI加速器和定制芯片等新兴创新进一步复杂了基础设施决策。架构师在选择硬件策略时，现在必须不仅评估性能，还要评估可移植性和供应商锁定问题。

混合环境中分布式AI的兴起

企业AI部署中出现的另一个模式是向分布式基础设施的转变。

早期的云采用鼓励企业将工作负载整合到单个云提供商中，这简化了治理并降低了运营复杂性。

但AI工作负载往往引入新的约束条件，出于合规原因，某些数据集必须保留在私有基础设施中，训练大型模型需要仅在特定云区域可用的专用GPU集群，实时推理可能需要在数据生成地附近运行，因此，许多企业现在正在运营混合和多云AI环境。

诸如Google Cloud Vertex AI之类的平台就是专门为混合AI管道设计的，使企业能够在本地系统和多个云环境中训练和部署模型。

在这些环境中，AI不再局限于单个云环境，相反，智能分布在基础设施层中。

挑战从部署应用转变为在多个环境中协调AI系统。

这种分布式还带来了数据一致性、模型版本控制和延迟管理方面的新挑战。确保模型在不同环境中表现一致成为关键要求，特别是在受监管行业。

智能编排变得至关重要

随着AI基础设施变得越来越复杂，手动云管理变得越来越不切实际。

现代企业环境可能涉及数千个容器、分布式数据集以及在不同云平台上运行的多个计算集群。

为了管理这种复杂性，企业开始依赖智能编排平台，这些系统利用机器学习来监控基础设施使用情况、预测计算需求并动态分配资源。

像UCUP这样的框架展示了下一代编排系统——能够协调多个AI代理、监控性能并实时调整执行策略的系统，这些平台超越了简单的调度，进入了智能决策层。

具有讽刺意味的是，AI不仅改变了企业工作负载，还正在成为管理云基础设施本身的系统。

随着时间的推移，这可能会导致高度自主的基础设施环境，人类操作员更多地关注策略和监督，而非直接系统管理。

企业AI的成本现实

尽管AI带来了诸多创新，但其财务影响不容忽视。

大语言模型需要巨大的计算资源，GPU集群价格昂贵且往往稀缺，训练单个模型就可能消耗大量云预算。

这迫使许多企业重新思考其云计算的财务策略。

像FinOps(旨在管理和优化云支出的实践)在AI驱动的环境中变得至关重要。

团队正在尝试以下策略：

• 模型优化与压缩

• 分布式训练架构

• 无服务器推理模型

• 在成本效益高的区域安排工作负载

在某些情况下，当私有基础设施更具经济优势时，企业甚至会重新考虑将某些AI工作负载迁回本地的混合策略。

事实证明，AI创新既需要技术架构，也需要财务架构。

FinOps团队越来越多地直接与数据科学家和机器学习工程师合作，创建了一个新的跨职能领域，专注于平衡性能与成本效益。

AI原生企业云的兴起

也许正在发生的最重大转变是概念性的。

十多年来，云主要作为托管应用的基础设施。

但AI正在将云转变为更强大的东西。

它正在成为一个机器智能平台。

云环境不再仅仅是运行软件，而是支持从数据中学习、生成见解并自动化决策的系统。

具有前瞻性的企业开始在设计基础设施时考虑到这一现实。

他们不仅仅是在迁移工作负载。

他们正在构建旨在大规模支持数据驱动智能的AI原生云生态系统。

这也意味着将AI考虑因素嵌入到架构的每一层中——从数据摄取和存储到安全、合规和用户体验。

企业云架构的下一篇章

第一波云转型浪潮聚焦于现代化。

下一波浪潮则是实现智能系统，这些系统能够增强人类决策、自动化运营并解锁全新的数字能力。

这一转变迫使企业架构师重新思考云基础设施的基础——从计算架构和数据管道到编排和治理。

适应最快的企业将不仅仅在云中运行AI工作负载。

他们将构建专门为智能设计云环境。

在此过程中，他们将定义下一代企业基础设施的模样。

然而，那些未能适应的企业则可能受到不再符合AI驱动创新需求的遗留架构假设的束缚。

企业网D1net(www.d1net.com)：

国内头部to B IT门户，旗下运营国内头部的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。