(文/赵法彬)人工智能(AI)正应用于教育、就业、制造、医疗、交通等方方面面。从小型传感器到大型数据中心,全球都在拥抱人工智能。在基础设施领域,通用CPU已不能满足需求,为此,Arm近日更新Neoverse产品路线图,宣布推出新一代Arm® Neoverse™技术,实现基于Arm平台的人工智能基础设施。
满足不断增长的数据和计算需求,Arm收获基础设施领域的累累硕果
众多国际知名的大型科技企业正基于Arm平台构建新一代系统和基础设施。Arm高级副总裁兼基础设施事业部总经理Mohamed Awad介绍说,NVIDIA推出的Grace Hopper从根本上重新设计了系统架构,从单个CPU管理多个GPU,转变为CPU与GPU一对一的映射。如此一来可达到内存一致性,最终可大大提高GPU的利用率。此外,亚马逊云科技(AWS)和微软等其他行业巨头也采取了类似的方法,从头开始设计系统,并从定制系统级芯片 (SoC) 开始展开。他们选择Arm的原因很简单,因为Arm独特的定位能赋予合作伙伴快速创建定制解决方案的能力,并充分利用到强大的生态系统,正是这些特性使Arm Neoverse夯实了全球AI愿景的根基。Arm能发挥关键作用,协助科技先行者解决由AI转型带来的不断增长的数据和计算需求。
Mohamed Awad
过去几年,Arm为何能在基础设施领域收获累累硕果?Mohamed Awad回答说,一是卓越性能,Arm的工程团队坚持不懈地实现迭代提升;二是灵活性,Arm赋能技术合作伙伴定制芯片,以支持其专用的工作负载和系统,而非采用一体适用的方案;三是生态系统,Arm在软件、IP和芯片生态系统中提供出色性能和灵活性,从而降低配置的总成本并加速产品上市。我们帮助合作伙伴随时随地以任何方式进行部署,Arm Neoverse计算子系统(CSS)将这些优势演绎得淋漓尽致。
Arm基础设施事业部产品解决方案副总裁Dermot O’Driscoll认为,Arm看到两个将推动未来基础设施发展的重要颠覆性趋势:一是人们希望对支持云计算关键工作负载的计算进行优化;二是头部企业正在打造定制芯片,并需要一种行之有效的方式来实现这一目标。Arm的合作式IP业务模式和计算子系统能为这些企业提供技术选用和选购的灵活性,助其同时实现这两个目标。他表示,软件和硬件在过去分别由不同的公司负责开发,而这样老旧的模式已经无法满足现在客户对性能的需求,也无法适配软件或硬件的复杂性。客户希望其部署的硬件,甚至是微架构层面,都能被优化,以便顺利运行其软件工作负载。此类联合优化很难实现,需要软硬件双方做出巨大的投入才能够完成。
Dermot O’Driscoll
通过与Arm的协作模式,合作伙伴可以在ArmIP的开发过程中,在对应IP的典型系统上运行其工作负载。Dermot O’Driscoll强调,这种协作模式直接影响Arm架构的发展方向,以及Arm在IP产品中实现微架构的方式。在交付IP之后,Arm也将为合作伙伴提供贯穿整个芯片开发周期的支持。通过模拟和仿真,Arm可以帮助客户评估由Arm提供的设计选择,并在开发与配置的全流程中提供支持,从而缩短产品上市进程。这种协同设计并不局限于CPU,为了深入优化总体拥有成本 (TCO),就必须着眼于整个平台,而只有Arm能够在平台级别上调优内存和I/O,并添加自定义工作负载加速器。Dermot O’Driscoll认为,Neoverse CSS是专为帮助客户在基于Arm领先的CPU平台上,快速打造通用计算芯粒而推出的产品,它能提供客户所需的所有接口,以便选择耦合自身的加速器。这种方法既可以在需要CPU时提供CPU,又可以在需要AI加速器时提供AI加速器,做到两全其美。
Arm基础设施事业部营销副总裁Eddie Ramirez说,从AI到5G,从云数据中心到边缘计算,全球各地打造新一代计算基础设施的技术先行者,都纷纷转向Arm Neoverse平台。他们能获得计算可扩展性、优异的能耗表现和设计灵活性等优势,以设计未来的基础设施解决方案。Arm Neoverse平台和计算子系统同样由丰硕的软硬件合作伙伴生态系统所驱动。Arm携手合作伙伴,加速创新,并简化硬件开发,同时确保软件兼容性。
Eddie Ramirez
Eddie Ramirez告诉记者,去年十月,Arm将广泛的半导体产业汇聚一起,借由Arm全面设计生态项目,围绕Arm计算子系统开展创新设计。该项目汇集了半导体领域的各路领先企业,囊括了芯片设计合作伙伴、IP供应商、EDA工具提供商、代工厂和固件开发商等,共同加快并简化基于Neoverse CSS的系统开发。
仅仅在推出后短短四个月内,Arm全面设计已经有20多家成员加入。Eddie Ramirez介绍说,其中包括新的EDA和配套IP提供商,以及来自包括韩国、中国台湾、中国大陆和印度等战略市场的芯片设计合作伙伴。Arm正在与三家主要代工厂合作,以确保CSS产品能在其先进工艺节点上进行优化。定制芯片离不开可靠供应链的支持,唯有Arm可提供多样的技术和选择。Arm全面设计的合作伙伴正在努力将基于Neoverse CSS的设计推向市场。去年十月,Socionext成为首家宣布计划在台积公司领先的2纳米工艺上开发基于CSS芯粒的合作伙伴,该设计将基于新推出的Neoverse CSS V3所打造。智原科技也在构建基于芯粒的服务器芯片,此外,ADTechnology将提供高性价比的16核CSS N系列边缘服务器平台。Arm全面设计合作伙伴正在打造多款基于CSS的SoC,以赋能新一代AI服务器,并借助各大代工厂的前沿工艺完成这项任务。
Eddie Ramirez表示,Arm将与合作伙伴共同打造充满活力的硬件生态系统,帮助客户进一步降低芯片开发成本,但这些只是部署于Arm平台上的部分优势。在软件生态系统方面,也呈现速扩展态势,Arm的软件生态系统致力于帮助开发者简化部署流程,同时提高采用Arm技术的硬件的生产效率。去年,Arm达到了一个重要的里程碑,80%的云原生计算基金会(CNCF)毕业项目原生支持Arm架构。Arm Neoverse软件生态系统正在不断扩展,以满足所有开发者的需求。从主流编程语言、软件工具、所有主要Linux发行版,到支持网络、存储和大数据以及AI应用的项目,这包括软件栈各个级别的知名开源企业。此外还包括大量独立软件供应商(ISV),他们可提供各类应用和SaaS产品。这一生态系统正成为云服务提供商部署其云服务的上佳之选,以便能够充分利用Arm提供的TCO优势。超过15年在Neoverse软件生态系统的投资,让Arm实现了强大的软件支持水平,助力超过五万家公司在支持Arm的基础设施上部署关键工作负载。这也是Arm及其合作伙伴生态系统降低部署成本,并提高正在部署的各类定制芯片可用性的另一种方式。
Arm更新Neoverse产品路线图,推出两款新的Neoverse CSS产品
Arm构建了全球应用最为普及的CPU架构,在多个领域的技术革新中发挥主导作用,影响了世界各地人们的日常生活。Arm高级副总裁兼基础设施事业部总经理Mohamed Awad认为,从小型传感器到大型数据中心,创新和技术转型遍布科技领域的方方面面,计算正越来越专用化,通用CPU已不再能满足需求。基础设施领域的转型持续朝向更复杂的仓库级计算,它不再只关乎芯片、服务器或架构,而是关乎整个数据中心。2023年见证了加速转型,全球开始拥抱生成式人工智能(GenAI)。2024年及未来,预计将出现大规模的创新应用。随着人工智能(AI)渗透到教育、就业、制造、医疗和交通等领域,AI正在改变经济发展和我们的日常生活,而Arm是这一切变革的基石。
Mohamed Awad告诉记者,Arm日前宣布推出两款新的Arm Neoverse计算子系统:Arm Neoverse CSS V3是高性能V系列产品组合中的首款Neoverse CSS产品;Arm Neoverse CSS N3拓展了Arm领先的N系列CSS产品路线图。这两款Neoverse CSS产品均基于全新的第三代Neoverse IP构建,它们是更为出色的新一代Neoverse技术。凭借新的CSS N3和CSS V3,Arm专注于释放芯粒等新技术的潜力,并更大限度地优化实际工作负载的TCO,这对于包括AI、数据库、网络等在内的整个生态系统至关重要。CSS代表着Arm向客户交付产品的方式有了跃升的改变。这样的变化并不仅限于Arm的产品,还延伸到了Arm首屈一指的软硬件生态系统。
Arm基础设施事业部产品解决方案副总裁Dermot O’Driscoll进一步介绍说,与CSS N2相比,Neoverse CSS N3每核心的每瓦性能提升20%。CSS N3的首个实例可提供32核,热设计功耗(TDP)低至40W。其可扩展性非常强,可覆盖电信、网络和DPU等一系列应用,Arm也同时考虑横向扩展云配置。CSS N3基于新的Neoverse N3 IP平台打造,为N系列引入了Armv9.2功能,能为每个核心提供2MB的专用L2缓存,并支持最新的PCIe和CXL I/O标准以及UCIe芯粒标准。有些客户希望在保有CSS所有优势的同时,实现更高的性能。为此,Arm推出了Neoverse CSS V3。与CSS N2产品相比,CSS V3的单芯片性能提高了50%。CSS V3在单芯片上最多可扩展至128核,并支持最新的高速内存和I/O标准。CSS V3基于新的Neoverse V3核心打造,这是Arm目前单线程性能最高的Neoverse核心。V3为Arm机密计算架构(CCA)提供硬件支持。V3和N3核心均可提供业界领先的专用L2缓存大小,显著改善性能表现。N系列在压缩方面取得了性能优势,可降低云服务运营商的成本,并最终降低云服务客户的成本;V系列显著提高了协议缓冲区的性能,这是在数据中心内传输数据的一项关键功能。Neoverse E系列也在不断迭代更新,采用了新的CPU和新的Neoverse S3系统IP。
Mohamed Awad总结说,新一代Arm Neoverse将成为合作伙伴打造新一代产品和服务的基础。随着越来越多的AI工作负载被采用,并贯穿于整个计算流程,涵盖从大型数据中心到网络、服务器以及计算基础设施的方方面面。Neoverse V3和N3提供了支撑这一转型所需的计算性能和效率,而在Arm全面设计生态项目的支持下,Arm的计算子系统能够加速产品上市时间,并加大对创新的投资力度。Arm的独特之处在于其背靠庞大的生态系统,始终坚定不移地推动技术创新,为合作伙伴赋予灵活的创新空间。
亚信科技亮相2023中国电信数字科技生态大会,“信”者同行,数智共赢!
2023-11-13
科视Christie参展InfoComm China 2024,展现激发非凡体验的智能技术
2024-04-11
亚信科技、中国广电斩获Network X 2024欧洲通信展“最佳行业方案奖”
2024-10-21
2023-09-15
2023-07-07
2024MWC上海|爱立信吴立东,Bo Hagerman谈5G商业机遇,6G发展路径
2024-06-29
菲亚特动力科技(FPT Industrial)亮相 ACT Expo 展会
2024-05-24
派拓网络提供Unit 42快速事件响应独家免费服务,深化对2000强客户的承诺
2023-12-07
2024-06-17
2023-02-24