马斯克宣布推出全球“最强大”的AI训练集群

责任编辑:cres

作者:Carl Franzen

2024-07-23 10:40:58

来源:企业网D1Net

原创

马斯克宣布,xAI已经开始在全球最强大的AI训练集群——位于田纳西州孟菲斯的孟菲斯超级集群上进行训练,该集群包含10万个液冷的Nvidia H100图形处理单元,旨在到2024年12月训练出世界上最强大的AI。

马斯克目前管理着至少六家创新公司:Tesla、SpaceX、Starlink、X(前身为Twitter)、Neuralink和xAI,但他并不满足于此。
 
这位多家公司的领导者在X上宣布,xAI——通过X向付费用户提供名为Grok的大型语言模型(LLM)和同名聊天机器人——已经开始在世界上“最强大的AI训练集群”上进行训练,这个被称为孟菲斯超级集群的系统位于田纳西州孟菲斯市。
 
据当地新闻媒体WREG报道,这个超级集群位于该市的西南部,是该市历史上由新进企业进行的最大的资本投资,然而,xAI尚未与当地公用事业公司田纳西河谷管理局签订合同,而该合同是提供超过100兆瓦电力项目所必需的。
 
满载Nvidia H100
 
尽管如此,马斯克进一步详细说明,这个集群由10万个液冷的H100图形处理单元(GPU)组成,这些芯片自去年起由Nvidia提供,受到包括马斯克的竞争对手(也是前朋友)OpenAI在内的AI模型提供商的高度需求。
 
马斯克还指出,该集群运行在单一的RDMA(远程直接内存访问)结构上,这是一种通过不增加中央处理器(CPU)负担来在计算节点之间提供更高效、低延迟数据传输的方法。
 
xAI 计划在2024年12月前提供“各项指标上最强大的AI”
 
显然,xAI 计划在超级集群上训练其自身的LLM,但更重要的是,马斯克在回复中表示,该公司目标是在“今年12月前”训练出“世界上最强大的AI”。
 
他还表示,孟菲斯超级集群将为此提供“显著优势”。
 
对于他的许多雄心壮志和成功来说,马斯克因公开提出并错过多个项目的截止日期而臭名昭著,如全自动驾驶汽车、机器人出租车和将人类送上火星,所以我不会对2024年12月的新Grok LLM抱太大期待,但如果能在这个时间框架内实现,那将是对xAI努力的一个巨大推动。
 
尤其是OpenAI、Anthropic、Google、Microsoft和Meta都在追求更强大、更实惠的LLM和SLM的情况下,如果xAI希望在争夺客户、用户和注意力的AI竞赛中保持竞争力,就需要一个新的、有用的模型。
 
实际上,据The Information报道,OpenAI的支持者Microsoft正与OpenAI首席执行官Sam Altman合作开发一个代号为Stargate、价值1000亿美元的AI训练超级计算机。根据其发展情况,xAI的孟菲斯超级集群可能不会长时间保持世界上最强大的地位。
 
企业网D1net(www.d1net.com):
 
国内主流的to B IT门户,旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。
 
版权声明:本文为企业网D1Net编译,转载需在文章开头注明出处为:企业网D1Net,如果不注明出处,企业网D1Net将保留追究其法律责任的权利。

链接已复制,快去分享吧

企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号