被称为“新云”(neoclouds)的GPU处理即服务提供商在AI领域尚属新秀,但随着客户寻求比超大规模云服务商更低的价格和更多的GPU资源,其受欢迎程度正在迅速上升。
随着AI市场的爆发式增长,GPUaaS商业模式应运而生,成为超大规模云服务商之外的另一种选择,CoreWeave、Lambda Labs和Crusoe等提供商正逐渐崭露头角。
这一商业模式似乎正逐渐流行起来:最近的一项调查发现,每10个企业中就有9个已经在使用新云,或正在试用,或计划采用。
网络托管评论网站HostingAdvice在7月进行的这项调查发现,25%的受访者已经广泛使用新云,另有34%正在测试其使用,21%计划在六个月内采用,该调查涵盖了医疗、软件、信息技术、金融和汽车行业的数据工程师、数据科学家、云架构师和金融运维(FinOps)专业人员。
当下亟需GPU
GPU的可用性和成本是企业AI用户转向新云的主要原因,近三分之一的受访者表示,缩短等待时间是选择新云提供商的首要原因。
超过三分之一的受访者表示,他们通常需要等待两到四周才能从传统云服务商那里获得GPU访问权限,而20%的受访者则需要等待三个月或更长时间。
HostingAdvice的高级分析师Joe Warnimont表示,长达数周或数月的GPU等待时间是一个巨大的问题,他补充道:“想象一下,你告诉董事会,你负责的某个大型AI项目因为无法获得这些特定的计算机芯片而要推迟一个季度。如果竞争对手能比你提前三个月部署模型,那不仅仅是不便,更是一个巨大的竞争劣势。”
尽管只有13%的受访者表示成本是使用新云的主要原因,但近一半的受访者表示,从超大规模云服务商转向新云可以节省25%或更多的成本。
Warnimont说:“目前,通货膨胀压力、关税等各种因素都带来了很多不确定性。如果你能找到一点节省的机会——而当你为AI基础设施预算节省25%到50%时,这绝不仅仅是一点节省——那将是巨大的;那将是变革性的。”
富国银行(Wells Fargo)负责AI/机器学习、数据和云的董事总经理Bijit Ghosh表示,在GPU短缺导致AI计划放缓的情况下,新云正成为一种有吸引力的选择。他补充说,尽管富国银行尚未转向新云,但公司正在评估各种选项。
他说:“最显著的优势是无需像超大规模云服务商那样等待数月才能获得GPU。作为一家银行,当我们准备好新的风险模型或欺诈检测AI时,我们最不想做的就是等待90天才能获得Nvidia A100。”
成本也可能是一个优势。Ghosh说,尽管新云每小时的费用并不总是比AWS或微软Azure便宜,但由于数据流出或存储的隐藏成本较少,其定价可能更具可预测性。
IT分析师公司The Futurum Group负责DevOps和应用程序开发的副总裁兼业务负责人Mitch Ashley表示,成本和可访问性问题使得新云的出现成为一种至关重要且某种程度上可预见的市场扩张,这是由AI需求驱动的。
他补充道:“新云供应商不仅仅是新参与者,它们是对AI计算工作负载(包括高端GPU的可用性和成本)日益增长和预期需求的直接市场回应。企业正寻求这些新云和现有的超大规模云服务商提供更专注、更具成本效益的解决方案。”
Ashley补充说,新云市场代表着从通用云服务向专业化、定制化平台的扩展。
他说:“这个市场的未来不在于在每个方面都与超大规模云服务商竞争,而在于为AI创新提供一个高性能且易于接入的起点。新云将通过保持这一重点而蓬勃发展,给大型参与者带来竞争压力,迫使他们解决自身的GPU供应和定价模型问题。”
不过,他也表示,CIO应该注意几个问题,他们应该检查与现有客户网络的兼容性,因为新云通常依赖于InfiniBand等高吞吐量网络结构。
他还说,新云并不提供超大规模云服务商所具备的全部云功能,这意味着通常需要进行多云和跨环境工作负载编排。
新云的未来
市场的未来也不确定。HostingAdvice的Warnimont预计,新云将成为超大规模云服务商的收购目标,但他认为,一些市场领导者可能会脱颖而出并生存下来。
富国银行的Ghosh认为,新云将与超大规模云服务商并存,并占据一席之地。他说:“超大规模云服务商在规模和服务广度方面表现出色,但新云在专业化、性能调优和访问速度方面更胜一筹。”
他补充说,在银行等受监管行业,新云可以将自己定位为突发容量需求的战略合作伙伴。
Ghosh说:“我们可以将稳定状态的工作负载保留在本地或私有云中,然后在需要GPU算力时立即利用新云。关键在于对工作负载运行位置有更多控制,以合适的方式将其部署在合适的环境中,并从这些投资中获得最佳收益。”
企业网D1net(www.d1net.com):
国内头部to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。