人工智能已成为引领数字化转型的重要力量。红帽作为开源领域的先驱,深知开放与协作对AI技术进步的至关重要性。
红帽公司坚信,AI技术的持续进步离不开开放与协作。鉴于当前AI在封闭体系中发展存在的隐忧,开源成为了有效的解决方案。红帽期待开源AI的繁荣,以推动技术向着更开放、更安全的方向发展。为此,红帽与IBM携手合作,计划推出基于Apache 2.0的开源模型和工具,旨在降低AI技术的门槛。通过新产品RHEL AI,红帽致力于帮助企业更轻松地应用AI技术,期望与各方共同构建一个开放、融合的AI生态,引领AI开源新时代。同时,红帽还观察到云与AI之间的紧密联系,并呈现出混合态势。公有云承载着AI应用,而在混合云模式下,私有云和边缘站点也为AI提供了广阔的发展空间。这充分展现了现代IT架构的灵活性,无论是公有云、私有云还是边缘计算,都是推动AI技术发展的关键载体。
在近日召开的“2024红帽媒体Open讲”上,红帽全球副总裁兼大中华区总裁曹衡康表示,红帽的企业级AI战略与服务始终贯彻开放生态的理念,将开源精神与开放创新实践深度结合,并紧密衔接开放混合云战略。红帽的全方位服务范围从AI应用层延伸至基础设施层,致力于为企业提供安全、高效、创新的AI解决方案。
红帽全球副总裁兼大中华区总裁曹衡康
在AI应用层面,红帽专注于为企业提供跨开放混合云的赋能服务,以确保企业能够最大化利用AI技术,进而驱动业务创新;对于AI模型层,红帽提供多样化的模型选择,包括Granite、Webhook和Customer 360等,旨在满足各类企业需求,并优化AI创新的投资回报率;在AI平台方面,红帽推出的Enterprise Linux AI和OpenShift AI等平台,不仅功能卓越,更便于部署与管理,可助力企业安全、高效地运营AI模型与应用;针对AI基础设施层,红帽为企业提供稳固、可扩展的基础设施及自动化解决方案,以保障AI模型和应用的稳定运行,并降低运维成本。
此外,RH Services系列,包括Open Innovation Labs及咨询、实施、赋能服务,为企业提供全面的AI创新支持,以加速AI创新的落地并实现业务目标。
总之,红帽凭借其开放、创新、高效的企业级AI战略与服务,为企业提供了一站式的AI解决方案,以推动企业在数字化时代迈向更大成功。
AI与开源创新成果瞩目
在5月初举办的“红帽全球峰会”上,红帽宣布了一系列新产品和进展,展示了其在AI和开源领域的持续创新。
首先,红帽推出了OpenShift AI和Linux AI产品,这些已经可以使用的产品将进一步推动企业AI应用的发展。同时,红帽还介绍了InstructLab,这是一个开源项目,它的工具能够简化整个建模过程。相较于过去需要庞大参数建模的情况,InstructLab仅需十亿至二十亿的参数即可完成建模,资源消耗大幅降低,这一突破性的进展引起了热烈反响。
此外,红帽还推出了Podman,这款工具使得用户在小型环境,如笔记本电脑上就能进行建模和运行AI,极大地提升了便捷性。
在OpenShift和Ansible方面,红帽也有新的进展。Ansible的Lightspeed功能去年就已宣布,而今年则进一步在OpenShift和Linux上进行了整合。这一功能通过自然语言指令的AI方式,提升了自动化效率。同时,红帽还推出了新的镜像模式,使部署更加迅速。
值得一提的是,红帽拥有庞大的生态合作伙伴网络。全球硬件合作伙伴超过5000家,软件合作伙伴约4000家。这一强大的生态支持,使得红帽在新产品适配方面具有显著优势。英特尔、NVIDIA、AMD等知名企业都是红帽的合作伙伴。在今年的重点领域中,“软件定义汽车”备受关注。红帽在这一领域扮演着重要角色,与众多合作伙伴共同推动新能源汽车的创新发展。
构建企业AI应用的三步走策略
红帽大中华区解决方案架构部高级总监王慧慧表示,为了帮助企业高效构建AI应用,红帽推荐采用以下三步走策略。这一策略提供了从初步开发到生产部署的明确路径,确保企业在AI应用的每个阶段都能得到全面支持。
第一步:桌面初步开发与调优
在桌面环境下,开发人员可以利用小数据集进行初步的实验性训练。借助即将集成到Podman Desktop中的InstructLab工具,开发人员能够在笔记本或PC工作服务器上,以容器化的方式轻松开发AI应用。此外,通过使用InstructLab,开发人员可以建立和调优自己的模型,这是在过去小设备上难以实现的突破。
第二步:生产级模型训练与验证
完成初步验证和模型调优后,开发人员可以将应用推送至Enterprise Linux AI(RHEL AI)平台。该平台提供全面的数据生成技术和先进的“教师、学生模型”训练方法,以支持生产化的模型训练。一旦模型达到一定的可读性和可使用性标准,即可进入下一个环境。
第三步:分布式集群环境下的生产部署
在分布式集群环境下,模型将继续进行生产级的训练,利用Kubernetes进行扩展、自动化,并实现MLOps的全部功能。若企业用户希望从小规模开始尝试,可以从Podman和InstructLab入手。当用户满意并准备进行更大规模的测试时,可以将应用推送至RHEL AI进行进一步验证。最终,当应用完备并准备投入生产时,用户可以将其部署到OpenShift AI上,这是一个完全集群化、分布式的大型环境,专为运行模型和AI应用而设计。
OpenShift AI:全方位的AI解决方案
OpenShift AI不仅是一个高级的AI平台,更提供了一套全面的解决方案,专注于解决MLOps和AI应用的DevOps两大核心问题。
在MLOps领域,OpenShift AI提供了一站式服务,涵盖模型的创建、调整、服务化以及监控。用户可以轻松地将重要的基础大模型,例如LLaMA2或IBM的Granite,导入到OpenShift AI中。同时,该平台支持在企业内部安全地准备和存储所有必要的训练数据,以确保数据的合规性和安全性。完成数据准备后,用户可以利用平台上的GPU资源进行模型的调优训练。值得一提的是,无论GPU卡来自哪个厂商,OpenShift AI都能灵活地进行资源调度,以满足用户的异构计算需求。
模型训练完成后,OpenShift AI还提供了便捷的模型部署和应用调用功能。得益于OpenShift AI的混合特性,模型可以轻松地部署在数据中心、公有云、私有云,甚至工控设备等终端上。
此外,OpenShift AI还是一个强大的AI应用DevOps平台,使用户能够在平台上完成AI应用的开发、测试、调整、上线及运行,从而实现应用和模型的统一管理。这种集成化设计使OpenShift AI成为企业内部包括应用管理、模型管理和资源控制在内的全方位解决方案。
RHEL AI:基础模型管理平台
RHEL AI不仅提供了模型训练和调优的支持,更是一个全面的基础模型管理平台。它专注于管理模型的创建、“对齐”、优化及整个生命周期,使得用户能够更高效地控制和使用模型。此外,RHEL AI还内置了IBM开发、红帽推动开源的Granite大语言模型,为用户提供更多选择和便利。
同时,红帽提供了InstructLab这一创新的模型对齐工具。它利用少量数据和系统合成数据,结合人工反馈,实现模型与特定需求的低成本对齐。红帽鼓励开源,并邀请用户为InstructLab贡献力量,经审核后将纳入新版开源模型,共同推动模型的进步。
多元化AI工具与平台
除RHEL AI和OpenShift AI外,红帽还提供了丰富的AI相关工具和平台:Podman AI Lab作为Podman Desktop的扩展,专注于AI应用开发,为本地开发者提供流畅的工作流与模型微调功能。同时,Lightspeed作为一款基于红帽内部代码与客户自动化脚本训练的高准确率代码生成工具,将被无缝集成至OpenShift、RHEL及Ansible等产品中。
这些工具和平台的推出,旨在简化AI环境的复杂性,提升开发效率,并推动企业界AI技术的广泛应用。
引领开源与云原生新潮流
凭借三十年的开源技术积淀,红帽不仅在通信和制造业推动了开源的广泛应用,更在工控设备领域开创了开源与云原生的新纪元。展望未来,红帽将继续融合AI技术,打造繁荣的AI生态圈,优化整合GPU等计算资源,并持续开发更多应用,以开源之力推动AI在企业的普及,引领智能制造等行业的创新浪潮。
关于企业网D1net(www.d1net.com):
国内主流的to B IT门户,同时在运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。