当前位置:云计算企业动态 → 正文

把握云+AI时代新机遇,金山云全面升级云计算体系

责任编辑:lijing 作者:赵立京 |来源:企业网D1Net  2024-02-19 10:27:17 本文摘自:企业网D1Net

2023年以来,人工智能(AI)浪潮带来了前所未有的技术进步和行业变革。大模型技术的突破性进展成为了2023年AI浪潮的核心驱动力之一。大模型如GPT系列和其他相似技术的发展,极大地提高了机器的理解、生成和推理能力,使得AI能够在文本生成、语音识别、图像处理等领域达到人类水平或甚至超越人类的性能。这些技术的应用范围从简单的自动化任务扩展到复杂的决策支持系统,包括但不限于医疗健康、金融服务、教育、创意产业和娱乐等行业。

作为国内知名的云计算服务提供商,金山云在2023年专注于两个核心领域。首先是“夯实基础”。云计算产品正在不断发展、演进,云服务器从六代升级到了七代,操作系统内核也迁移到欧拉内核,EBS块存储发展到4.0版本,推出了ESSD极速云盘,还推出了新的负载均衡产品ALB,以及两种核心存储产品,KS3-E(性能型)和KS3-C(容量型)。

在夯实基础之上,金山云“勇立潮头”。随着大模型技术的兴起,金山云积极响应这一趋势,提供符合行业和客户需求的产品和技术,通过分布式云和混合云的形式,更好地为客户提供算力服务。

在场景落地方面,金山云专注于三个关键领域。首先是MaaS互信推理专区方案,旨在打破模型供需方之间的壁垒。通过这个方案,不仅提升了数据共享的安全性,还极大地促进了合作伙伴间的信任和协作。“这标志着一个新时代的开始,一个数据和模型能够自由流动、互相增益的时代。”钱一峰表示。第二个落地场景是为那些寻求更高安全性和专有服务的客户提供了客户专属区。这项服务巧妙地结合了物理隔离的安全性和公有云的灵活性。第三个落地场景则是混合云服务,通过将用户自建IDC与金山云平台无缝连接,金山云为用户提供了一个既包括私有资源又包括公共云资源的综合网络体验。无论是裸金属服务器、云服务器还是容器服务,金山云的混合云解决方案都能确保用户获得一致且高效的服务体验。

大模型兴起之后的升级

金山云公有云产品中心负责人孙晓表示,从大模型的产生到应用的落地,从行业的视角可以观察到,参与者分为三个主要层次。首当其冲的是模型厂商,这一层次的公司直接由大模型技术的发展催生,涵盖了提供大模型基础平台的企业以及专注于特定行业和场景优化的公司。

第二个层次是面向大模型的训练、推理和实用化产生的平台厂商。这一层包括专门提供训练平台和模型即服务(MaaS)推理平台的公司,以及云厂商。其中,云厂商扮演了独特的角色,他们不仅提供大规模的底层算力,还具备相对丰富的软件能力,一些大型云厂商甚至推出了自研的大模型。

第三个层次则由传统的基础设施服务商和面向算力的网络服务商组成,甚至催生出了超算中心服务商。这些公司共同构成了大模型的产生和应用落地的基础架构,已经成为业界极具商业价值的市场。

当然,市场的各方参与者都面临着自己的担忧和挑战。对于模型厂商而言,如何确保以文本文件形式存在的模型的安全是他们的主要关注点。应用厂商则更关注于数据的安全和隐私保护,尤其是在应用被终端用户广泛使用时。此外,随着技术的发展,上层大模型厂商,多数为初创型公司,他们对于使用的基础架构是否支持跨云迁移、是否能够提供安全可靠的技术设施格外关注。

在这样的背景下,技术图谱的构建变得尤为重要。从传统技术到硬件、网络和数据中心,再到技术服务层,包括传统的IaaS和PaaS以及算力网络层,技术图谱层次分明。金山云在这一图谱中的定位十分明确,以其严守中立的立场,成为大模型服务的助力者。金山云不仅提供从训练到推理的全流程云服务支撑,还希望通过技术上的可监测和可审计的能力,将这种中立的立场转化为具体的技术优势。

大模型企业面临的一大挑战是基础设施成本的高昂,尤其是在北上广等一线城市。然而,随着国家算力网络的建设和优化,从西北到北上广的网络延时已经降低到可以接受的10毫秒左右,这为大模型的推理场景使用提供了有力的支持。

为了进一步降低成本并提高效率,金山云开始探索如何构建自己的云算力网络能力。据孙晓介绍,这一过程可以分为三个层次:首先是网络的基础层,关注网络规模、带宽和稳定性。在这一层,金山云开发了自研的服务方案如IB/RoCE,以及可靠的交付工具,确保数据传输的高效和稳定。其次是网侧的优化,通过开发KDTP系统和在服务器端部署Agent,实现链路的探测能力,从而对网络性能进行全面测试,确保服务的可靠交付。

在产品化升级方面,金山云不仅在云主机、云网络、裸金属、容器服务、云存储和云数据库等基础服务上进行了优化,还推出了专注于大模型场景的解决方案,如MaaS(模型即服务)互信专区。去年发布的MaaS 1.0版本旨在解决大模型厂商和模型应用商之间的互信问题。随着MaaS 2.0的正式发布,金山云将基于LangChain推理应用平台的产品化,进一步通过可信镜像方式解决模型上传云端的加密使用问题,标志着在保障数据安全和便捷部署方面迈出了重要一步。

MaaS 2.0建立在金山云的IaaS和PaaS服务之上,支持云上LangChain的一键部署,并默认对接多个生态合作的商业大模型和开源大模型。此外,它支持包括BGE、Bert等在内的Embedding模型,能无缝对接金山云全托管向量数据库Milvus,为企业开发者提供一个简单易用、安全可信的一站式推理应用部署平台。通过标准化的API接口和Web前端界面,MaaS 2.0实现了包括模型推理和知识库搭建的RAG大模型场景应用,同时提供容器服务加密镜像解决方案,确保模型在金山云容器服务中的安全运行。

这一系列措施不仅体现了金山云在降低成本、提高效率方面的努力,也展示了在确保数据安全和便利用户部署方面的创新。随着这些技术和服务的推广,大模型企业有望在保持竞争力的同时,更好地应对人工智能时代的挑战。

金山云轻舟智问助力企业提效

金山云人工智能与大数据产品中心负责人徐寅斐表示,在人工智能和大模型的浪潮中,金山云正积极思考和定位自己如何利用这一技术浪潮,为企业客户提供新的产品形态和服务。在这一过程中,金山云选择了企业内部知识助手这一场景,开发了名为“金山云轻舟智问知识助手”的产品。这一选择基于对企业内部需求的深刻理解,旨在通过简单而基础的问答对话框形式,解决企业日常运营中的知识查询和管理问题。

据徐寅斐介绍,知识助手之所以被视为基础,是因为其核心功能类似于现有的GPT等大模型技术,提供简单的问答服务。然而,金山云看到了这一产品上限的巨大潜力。当知识助手的模型洞察能力、理解能力和推理能力被深度集成到企业内部流程中时,它能够执行非常复杂的任务,如帮助企业法务审核合同并识别潜在风险。这表明,尽管起点基础,但知识助手有能力成为企业内部运营的强大工具,支持从简单到复杂的各类场景。

金山云进一步细化了目标客户群体,专注于工时价值高的特定领域,如法律和金融等,同时确保所选场景与金山云现有业务线——如公共服务、金融和法律——相匹配。这种精准定位有助于金山云在这些领域内提供更专业、更高效的服务。

为满足行业客户的需求,金山云探索大模型时代企业赋能新机遇,围绕企业级知识助手场景制定了“一三一四”产品全景规划,即一套能力(金山云轻舟智问)、三个模型(行业语言模型、文本分片和Embedding模型)、一个平台(金山云瀚海平台)及四大功能(微调推理、数据加速、智能检索和文档智能),围绕生成式人工智能构建应用落地、模型训练微调、平台支撑的全栈能力。

继续夯实基础,做好大模型的助力者

展望未来,金山云将继续夯实基础,提升产品的易用性和实用性,确保用户体验的简便和高效。金山云还将进一步加强其长板——混合云和分布式云,继续探索新的形态和服务模式,以提供独特的优势和解决方案。在混合云方面,金山云将强化云上建设能力。包括为客户提供专属区域或专属集群,使他们能够保持独立性的同时,享受云计算的规模红利和灵活性。

同时,Serverless化也是金山云的重点。以往,Serverless主要局限于计算层面,但随着存算分离场景的普及,已经扩展到PaaS层面。例如,MySQL已经实现了Serverless化。同时,金山云还在向量数据库方面取得了进展,并推出了开源版本。在网络方面,金山云将重点发展大规模的RoCE网络,进一步加强网络服务能力。

关键字:云计算升级金山时代

本文摘自:企业网D1Net

x 把握云+AI时代新机遇,金山云全面升级云计算体系 扫一扫
分享本文到朋友圈
当前位置:云计算企业动态 → 正文

把握云+AI时代新机遇,金山云全面升级云计算体系

责任编辑:lijing 作者:赵立京 |来源:企业网D1Net  2024-02-19 10:27:17 本文摘自:企业网D1Net

2023年以来,人工智能(AI)浪潮带来了前所未有的技术进步和行业变革。大模型技术的突破性进展成为了2023年AI浪潮的核心驱动力之一。大模型如GPT系列和其他相似技术的发展,极大地提高了机器的理解、生成和推理能力,使得AI能够在文本生成、语音识别、图像处理等领域达到人类水平或甚至超越人类的性能。这些技术的应用范围从简单的自动化任务扩展到复杂的决策支持系统,包括但不限于医疗健康、金融服务、教育、创意产业和娱乐等行业。

作为国内知名的云计算服务提供商,金山云在2023年专注于两个核心领域。首先是“夯实基础”。云计算产品正在不断发展、演进,云服务器从六代升级到了七代,操作系统内核也迁移到欧拉内核,EBS块存储发展到4.0版本,推出了ESSD极速云盘,还推出了新的负载均衡产品ALB,以及两种核心存储产品,KS3-E(性能型)和KS3-C(容量型)。

在夯实基础之上,金山云“勇立潮头”。随着大模型技术的兴起,金山云积极响应这一趋势,提供符合行业和客户需求的产品和技术,通过分布式云和混合云的形式,更好地为客户提供算力服务。

在场景落地方面,金山云专注于三个关键领域。首先是MaaS互信推理专区方案,旨在打破模型供需方之间的壁垒。通过这个方案,不仅提升了数据共享的安全性,还极大地促进了合作伙伴间的信任和协作。“这标志着一个新时代的开始,一个数据和模型能够自由流动、互相增益的时代。”钱一峰表示。第二个落地场景是为那些寻求更高安全性和专有服务的客户提供了客户专属区。这项服务巧妙地结合了物理隔离的安全性和公有云的灵活性。第三个落地场景则是混合云服务,通过将用户自建IDC与金山云平台无缝连接,金山云为用户提供了一个既包括私有资源又包括公共云资源的综合网络体验。无论是裸金属服务器、云服务器还是容器服务,金山云的混合云解决方案都能确保用户获得一致且高效的服务体验。

大模型兴起之后的升级

金山云公有云产品中心负责人孙晓表示,从大模型的产生到应用的落地,从行业的视角可以观察到,参与者分为三个主要层次。首当其冲的是模型厂商,这一层次的公司直接由大模型技术的发展催生,涵盖了提供大模型基础平台的企业以及专注于特定行业和场景优化的公司。

第二个层次是面向大模型的训练、推理和实用化产生的平台厂商。这一层包括专门提供训练平台和模型即服务(MaaS)推理平台的公司,以及云厂商。其中,云厂商扮演了独特的角色,他们不仅提供大规模的底层算力,还具备相对丰富的软件能力,一些大型云厂商甚至推出了自研的大模型。

第三个层次则由传统的基础设施服务商和面向算力的网络服务商组成,甚至催生出了超算中心服务商。这些公司共同构成了大模型的产生和应用落地的基础架构,已经成为业界极具商业价值的市场。

当然,市场的各方参与者都面临着自己的担忧和挑战。对于模型厂商而言,如何确保以文本文件形式存在的模型的安全是他们的主要关注点。应用厂商则更关注于数据的安全和隐私保护,尤其是在应用被终端用户广泛使用时。此外,随着技术的发展,上层大模型厂商,多数为初创型公司,他们对于使用的基础架构是否支持跨云迁移、是否能够提供安全可靠的技术设施格外关注。

在这样的背景下,技术图谱的构建变得尤为重要。从传统技术到硬件、网络和数据中心,再到技术服务层,包括传统的IaaS和PaaS以及算力网络层,技术图谱层次分明。金山云在这一图谱中的定位十分明确,以其严守中立的立场,成为大模型服务的助力者。金山云不仅提供从训练到推理的全流程云服务支撑,还希望通过技术上的可监测和可审计的能力,将这种中立的立场转化为具体的技术优势。

大模型企业面临的一大挑战是基础设施成本的高昂,尤其是在北上广等一线城市。然而,随着国家算力网络的建设和优化,从西北到北上广的网络延时已经降低到可以接受的10毫秒左右,这为大模型的推理场景使用提供了有力的支持。

为了进一步降低成本并提高效率,金山云开始探索如何构建自己的云算力网络能力。据孙晓介绍,这一过程可以分为三个层次:首先是网络的基础层,关注网络规模、带宽和稳定性。在这一层,金山云开发了自研的服务方案如IB/RoCE,以及可靠的交付工具,确保数据传输的高效和稳定。其次是网侧的优化,通过开发KDTP系统和在服务器端部署Agent,实现链路的探测能力,从而对网络性能进行全面测试,确保服务的可靠交付。

在产品化升级方面,金山云不仅在云主机、云网络、裸金属、容器服务、云存储和云数据库等基础服务上进行了优化,还推出了专注于大模型场景的解决方案,如MaaS(模型即服务)互信专区。去年发布的MaaS 1.0版本旨在解决大模型厂商和模型应用商之间的互信问题。随着MaaS 2.0的正式发布,金山云将基于LangChain推理应用平台的产品化,进一步通过可信镜像方式解决模型上传云端的加密使用问题,标志着在保障数据安全和便捷部署方面迈出了重要一步。

MaaS 2.0建立在金山云的IaaS和PaaS服务之上,支持云上LangChain的一键部署,并默认对接多个生态合作的商业大模型和开源大模型。此外,它支持包括BGE、Bert等在内的Embedding模型,能无缝对接金山云全托管向量数据库Milvus,为企业开发者提供一个简单易用、安全可信的一站式推理应用部署平台。通过标准化的API接口和Web前端界面,MaaS 2.0实现了包括模型推理和知识库搭建的RAG大模型场景应用,同时提供容器服务加密镜像解决方案,确保模型在金山云容器服务中的安全运行。

这一系列措施不仅体现了金山云在降低成本、提高效率方面的努力,也展示了在确保数据安全和便利用户部署方面的创新。随着这些技术和服务的推广,大模型企业有望在保持竞争力的同时,更好地应对人工智能时代的挑战。

金山云轻舟智问助力企业提效

金山云人工智能与大数据产品中心负责人徐寅斐表示,在人工智能和大模型的浪潮中,金山云正积极思考和定位自己如何利用这一技术浪潮,为企业客户提供新的产品形态和服务。在这一过程中,金山云选择了企业内部知识助手这一场景,开发了名为“金山云轻舟智问知识助手”的产品。这一选择基于对企业内部需求的深刻理解,旨在通过简单而基础的问答对话框形式,解决企业日常运营中的知识查询和管理问题。

据徐寅斐介绍,知识助手之所以被视为基础,是因为其核心功能类似于现有的GPT等大模型技术,提供简单的问答服务。然而,金山云看到了这一产品上限的巨大潜力。当知识助手的模型洞察能力、理解能力和推理能力被深度集成到企业内部流程中时,它能够执行非常复杂的任务,如帮助企业法务审核合同并识别潜在风险。这表明,尽管起点基础,但知识助手有能力成为企业内部运营的强大工具,支持从简单到复杂的各类场景。

金山云进一步细化了目标客户群体,专注于工时价值高的特定领域,如法律和金融等,同时确保所选场景与金山云现有业务线——如公共服务、金融和法律——相匹配。这种精准定位有助于金山云在这些领域内提供更专业、更高效的服务。

为满足行业客户的需求,金山云探索大模型时代企业赋能新机遇,围绕企业级知识助手场景制定了“一三一四”产品全景规划,即一套能力(金山云轻舟智问)、三个模型(行业语言模型、文本分片和Embedding模型)、一个平台(金山云瀚海平台)及四大功能(微调推理、数据加速、智能检索和文档智能),围绕生成式人工智能构建应用落地、模型训练微调、平台支撑的全栈能力。

继续夯实基础,做好大模型的助力者

展望未来,金山云将继续夯实基础,提升产品的易用性和实用性,确保用户体验的简便和高效。金山云还将进一步加强其长板——混合云和分布式云,继续探索新的形态和服务模式,以提供独特的优势和解决方案。在混合云方面,金山云将强化云上建设能力。包括为客户提供专属区域或专属集群,使他们能够保持独立性的同时,享受云计算的规模红利和灵活性。

同时,Serverless化也是金山云的重点。以往,Serverless主要局限于计算层面,但随着存算分离场景的普及,已经扩展到PaaS层面。例如,MySQL已经实现了Serverless化。同时,金山云还在向量数据库方面取得了进展,并推出了开源版本。在网络方面,金山云将重点发展大规模的RoCE网络,进一步加强网络服务能力。

关键字:云计算升级金山时代

本文摘自:企业网D1Net

电子周刊
回到顶部

关于我们联系我们版权声明隐私条款广告服务友情链接投稿中心招贤纳士

企业网版权所有 ©2010-2024 京ICP备09108050号-6 京公网安备 11010502049343号

^