网站首页 > 高端访谈 >
红帽以开源的方法将AI带入企业
发布时间:2024-06-21 17:08:22 · 赵法彬

(文/赵法彬)近两年来,以ChatGPT为代表的生成式AI服务引发了广泛关注。那么,处于各行各业中的企业都需要AI吗?企业如何多快好省地应用AI?如何让AI为企业带来价值?为此,红帽提出以开源的方式将AI带入企业。并且在2024红帽全球峰会上,红帽宣布了一系列与人工智能相关的创新,包括RHEL AI、OpenShift AI、Lightspeed,并与NVIDIA等合作伙伴在混合云和AI领域展开合作。

QQ截图20240621144359

红帽全球副总裁兼大中华区总裁曹衡康

打造开源的AI生态圈

红帽全球副总裁兼大中华区总裁曹衡康认为,在闭源环境中,可能会有一些安全隐忧,因为我们不知道闭源的环境中有没有人监督它。而开源的好处就是一旦出现安全问题,整个社区都会共同检查“问题出在哪里”,并快速解决问题,这在AI也是一样的。大语言模型LLM在开放中发展,如果不是真开放,将受到诸多限制。将开源概念带入AI模型以及开放进化的工具,让用户为LLM/行业中模型做贡献,提升效率与性能;以开源方式降低拥有核心技术的门槛,让各行业、企业拥有创新自由,以及安全可控的发展。为此,红帽和IBM将发布Apache 2.0许可模型和工具以一个开放项目呈现,而新的红帽产品RHEL AI将这些功能带给企业,最终构建融合开放的生态体系。怎么用开源的方式把AI带入企业,这是红帽今天及未来想做的事情。

红帽大中华区市场总监赵文斌补充说,红帽通过开源技术自己做复杂的工作,希望客户应用越来越简单。这样客户就可以用非常简单的方式、低门槛的技术解决复杂的AI问题,这些工作是红帽通过开源的力量做到的,从而在客户层面变得是非常简单易用的。

红帽大中华区解决方案架构部高级总监王慧慧表示,红帽是以开源的方式去做AI解决方案的,无论在AI模型领域、模型调优领域、模型开发领域、应用开发领域或者将来的部署领域,都牵涉到AI的方方面面,红帽所有的产品和解决方案都是开源的。她认为,模型的创建、调优是一方面,但是也要考虑将来怎么样去把模型部署完了以后让AI应用去消费它。从这个角度去定义的时候,我们就会发现在AI应用消费的场景上面是混合的。我们认为在整个世界里,AI应用的消费可能是以一种混合的方式出现的,可能在您的设备上、汽车上,也有可能在您OT制造业的生产线,还有可能在您的数据中心、在公有云与私有云里面。

红帽一如既往地坚持开放生态,将开源思想与开放创新实践带入AI领域,结合开放混合云与AI战略:在AI应用层,提供跨开放混合云的AI赋能的企业应用;在AI模型层,为AI模型提供多样化选择,提高AI创新的ROI;在AI平台层,提供领先的AI平台,帮助企业安全高效地部署和管理AI模型和AI应用;在AI基础设施层,为企业的AI模型和AI应用提供安全的可扩展基础设施和自动化。同时为企业提供集咨询、实施、赋能三位一体的开放创新实验室服务,加速企业AI创新实施。这也让国际知名的IT媒体CRN(https://www.crn.com/)把红帽列入了推动AI发展的20家AI云公司名单中,并评价道:开源领域的翘楚企业红帽,让企业用户能够利用其软件平台构建、部署和监控人工智能模型与应用。红帽OpenShift AI使企业以透明和可控的方式构建、训练、测试人工智能应用的模型,并提供优质的服务。

怎么把模型变小、参数变小,做出的模型更加轻量化,用一个比较小的模型去做大模型的事情,这是红帽的工作。曹衡康希望在“多云”环境来做,让模型更加轻量化,还要找出来一个社区及生态合作伙伴,让整个语言模型能够用小的模型做出一个成果,并且符合各个国家的法规的要求等等。在许可证这种环境之下,还要把我的模型跟开源环境更加结合在一起。红帽希望在一个比较简单的环境之下,能够把这个模型建立出来,这个模型可以在“云”上开发,也可以在“数据中心”建模,甚至建模以后,还可以把这个小语言模型放在一个非常小的设备上运行。模型在不同的平台,红帽还能对模型用最佳方案进行优化。

曹衡康表示,AI环境不只是GPU,光是算力好没有用,必须要在一个平台上面开发出来、真正做出来一些AI的应用才可以。通过红帽的技术,企业可以在简单的一个笔记本电脑上建模,不需要放在“云”上面,而且包括数据采集、训练等,在一个笔记本就可以完成。这样可以更好资源利用、效率更高、并且更安全,因为数据还在企业这边。红帽就打算这样做,而且已经开始实现了!

红帽不做硬件、也不做应用,只是在硬件和应用之间搭出来一个基础架构、一个平台、一个工具,让很多合作伙伴跟红帽合作。曹衡康认为,GPU很重要,但是人工智能不是只靠GPU,因为GPU只提供算力,在上面搭建平台再开发AI应用才是最关键的。生态对于AI的发展非常重要,所以红帽要打造我们的AI生态圈。过去很多工程师要打代码、命令、指令去操作Linux、OpenShift,现在只需简单用口语化就可以生成一个指令让Linux/OpenShift/Ansible就可以执行了。红帽所做的事情就是在那么多的硬件环境之下,我们开发出工具,希望有更多的客户、合作伙伴在红帽平台上开发AI应用。例如,InstructLab是一个开源的项目,它可以用其本身的工具让整个建模方式更加简单化,过去要建一个模型仅仅参数就要达到“万兆”,InstructLab仅需参数过去大型参数的万分之一的资源就就可以建模了;Podman能够在一个小的环境如笔记本,就可以建模、运行AI。

曹衡康强调说,红帽全世界有5千多家硬件合作伙伴、4千多家软件合作伙伴,任何公司不管是做硬件还是做软件,只要新产品出来都要找红帽适配,因为红帽的客户多、而且开源开放。通过红帽技术把客户的流程简化、把客户的部署简化,让客户更有效率,红帽工作就是让复杂的东西变得更简单一点。


助力企业实施AI创新

企业级实施AI创新从来不是一件简单的事情,有很多的内容要考虑,并且实施AI远不止选择一个模型那么简单。企业需要评估AI应用场景,并运用AI专业知识来为特定场景选择适当的模型,并且还必须处理AI实施过程中的各项显著难题,加上AI学科高门槛和人才的稀缺性,使得情况更为复杂。

QQ截图20240621170357

红帽大中华区解决方案架构部高级总监王慧慧

红帽大中华区解决方案架构部高级总监王慧慧分析说,我国建了很多的智算中心,就是希望企业不要自己去建一个小小的计算中心、买很多卡,因为这是一种算力的浪费。把一个大型的计算中心的算力变成一个“池化”的资源,把它切分下来、分享出去,通过“云”的方式、公有云的方式、混合云的方式分享到不同的人使用,这是红帽AI基础架构要解决的一个事情。我们解决的是怎么样把异构的GPU卡所组成的一个算力池,给更多的企业客户去使用。企业有了一个基础模型之后,需要在上面用自己的数据进行调优,让它符合企业的需求,但是企业缺人、缺数据、缺工具、也缺模型。红帽的解决方案会提供模型、提供模型调优工具、提供模型调优的平台,同时给企业进行数据清洗和链接的平台。企业希望我们原来AI应用的团队能够跟模型训练的团队说的是同样的一句话、在同一个平台上交流、交换数据和信息,红帽就为这样的一个“互相交互”的团队或者说一个复杂的AI应用和模型开发的团队提供了一个统一的平台。

红帽提供端到端的AI平台和路径,从本地工作平台开始,轻松地创建并使用AI的代码和环境,并将其无缝地扩展到企业级的生产环境中,这只需三步。王慧慧介绍说,第一步,在资源受限的桌面环境下,采用小数据集进行实验性训练(qlora),InstructLab未来会集成到Podman Desktop里。让所有的开发人员(应用开发人员、模型开发人员)在自己的笔记本或PC工作服务器上,用容器化的方式开发自己的AI应用,或者用InstructLab工具建立和调优基于自己的模型。第二步,通过完整的合成数据生成技术,采用“教师”模型和“学生”模型的训练方法,进行生产级模型训练,并提供基本操作脚本化的工具支持。第三步,在更大的分布式集群的环境下,与RHEL AI一样进行生产级的模型训练。同时,充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。如果企业用户在做AI应用时,想要先从一个小应用、小模型、小规模的尝试开始,完全可以从Podman和InstructLab开始。用户觉得“玩”的不错了、可以尝试一下了,就可以把它推送到RHEL AI上面去,在自己的数据中心里面“玩”一下、测试一下。用户又觉得已经完备了、可以了,再把它推送到OpenShift AI上面去,在一个完全集群化的环境里面去运行模型或者运行AI的应用。

王慧慧表示,我们希望红帽的解决方案和三步走端到端的平台,可以满足企业用户实施AI创新不同阶段的需求。OpenShift AI是一个AI的平台级产品,使用该平台可以完整地完成企业内部包括应用、模型、资源控制在内的所有内容。用较小的资源、较低的门槛,用一些比较简单的数据合成方式,把AI模型建立和调优的工作量与工作成本降低,这就是RHEL AI的优势。InstructLab是一种模型对齐的一个工具,它可以用少量的数据、系统合成数据的方法以及人为反馈的工作模式,去帮助所有的模型训练人员以较低的成本,把基础模型按照用户的需要和用户自己的需求方做一个对齐的工作。


最后,谈及红帽在国内重点发展策略与举措,曹衡康说,一是配合国家战略,加速企业智能制造升级:开源是重塑行业技术、打通行业生态的重要推力,红帽云原生方案将助力制造业实现IT+OT+AI的整合创新;二是赋能与融合国内AI生态,加速AI在全行业应用。

本站部分文章来自互联网,文章版权归原作者所有。如有疑问请联系QQ:1633373438