2024年5月16日,全球领先的开源解决方案提供商红帽公司与人工智能(AI)优化和编排领域的领导者Run:ai宣布展开合作,将Run:ai的资源优化功能集成到红帽OpenShift AI中。此合作通过简化AI操作和优化底层基础设施,使企业能够充分利用AI资源。在一个可靠的MLOps平台上,企业可以高效地构建、调整、部署和监控AI应用和模型,从而最大化人力和硬件资源的效用。
GPU是推动AI工作流程的核心计算引擎,支持模型训练、推理和实验等。鉴于这些专用处理器的高昂成本,特别是在分布式训练和推理场景中。红帽与Run:ai正联合提供解决方案,通过在红帽OpenShift AI上部署经认证的Run:ai OpenShift Operator,满足GPU资源优化的关键需求,帮助用户在任何场景下扩展和优化其AI工作负载。Run:ai的云原生计算编排平台在红帽OpenShift AI上提供的帮助包括:
利用专用工作负载调度程序,解决AI工作负载的GPU调度问题,轻松确定关键任务工作负载的优先级,并确保分配足够资源支持这些工作负载。
通过部分GPU使用和监控功能,根据设定的优先级和策略动态分配资源,提升基础设施效率。
改善对共享GPU基础设施的控制和可见性,为IT、数据科学和应用开发团队提供更便捷的访问和资源分配方式。
Run:ai的认证OpenShift Operator现已可用。展望未来,红帽和Run:ai计划继续加强合作,在红帽OpenShift AI上为Run:ai引入更多集成功能。此举旨在提供更无缝的客户体验,并进一步加速AI模型向生产工作流的转移,实现更高的一致性。
支持证言
Steven Huels,红帽副总裁兼AI事业部总经理
“随着AI采用率的提高和对GPU需求的增加,企业需优化其AI平台,以充分利用运营和基础设施,无论这些资源位于混合云的哪个部分。通过与Run:ai的合作,让企业能够在不牺牲AI/ML平台的可靠性或宝贵的GPU资源的情况下,在任何必需的地方最大限度地扩展AI工作负载。”
Omri Geller,Run:ai首席执行官兼创始人
“我们很高兴能与红帽OpenShift AI合作,增强AI运营的能力和潜力。通过利用红帽OpenShift的MLOps优势和Run:ai在AI基础设施管理方面的专业知识,我们正在为企业AI设立新标准,提供无缝的可扩展性和优化的资源管理。”
菲亚特动力科技叉车行业推广会暨吉鑫祥欧五产品新品发布会顺利举行
2023-11-08
2023-04-27
2024-02-27
2023-05-16
IT News Africa宣布召开2024年非洲数字金融大会:金融科技创新的关键峰会
2024-06-07
2023-10-09
斑马技术携先进医疗保健解决方案亮相第二十八届中国医院信息网络大会(CHIMA 2024)
2024-05-17
RTI公司将在CES 2024展示软件定义汽车通信框架Connext Drive 3.0
2023-12-06
VMware 的综合数字员工体验(DEX)解决方案为IT团队提供以数据驱动的洞察,在提升员工体验的同时节约成本
2023-06-13
任意网络上的任意媒体(第 1 篇)—— AMD 自适应嵌入式计算平台
2023-08-29