大算力芯片时代下,Arm迎来新风口
2022-10-31
作者:杜芹
来源:开云棋牌官网在线客服行业观察
ArmNeoverse:一个或将颠覆现代计算的架构
当前,全社会数据总量爆发式增长,数据存储、计算、传输、应用的需求大幅提升,对算力的需求也越来越高。CPU不仅需要处理通用计算类任务,还需要承担网络、存储、安全等任务,有效算力在总体算力中的占比逐渐下降,行业亟需在特定领域更高算力的芯片的支撑。而随着Arm Neoverse架构的发布,整个行业迎来了巨变。
2018年Arm首次发布了Arm Neoverse平台。目前,Neoverse平台主要包括三个IP系列:分别是V系列、N系列和E系列。据Arm官网介绍,Neoverse V系列主打极致性能,适合执行高计算需求和存储器密集型应用的系统,主要应用场景包括高性能计算 (HPC)、云计算和AI/ML加速型工作负载;Neoverse N系列主打可高扩展的性能表现,提供均衡的最佳化CPU设计、出色的性能功耗比和性能成本比,应用场景包括可高扩展的云计算、企业连网、智能网卡/DPU以及客制化ASIC加速器、5G基础设施以及电力和空间受限的边缘场景;Neoverse E系列主打高效率吞吐量,在支持高资料吞吐量的同时,大幅降低功耗,主要应用场景包括网络资料层处理器、低功耗网关的5G部署。
图源:Arm官网
可以看出,这三种内核分别针对三种不同的性能和功耗权衡,这就为各行业实现定制化芯片带来了充分且灵活的施展空间。但光有硬件还远远不够,要打造成功的基础架构解决方案,还需要一个强大的软件生态系统。
在软件生态系统方面,Arm不仅在开源社区有着长期且持续的投入,并在Arm Neoverse平台的设计原则中纳入了构建独一无二的开发者生态系统,目的是赋能开发者顺畅地进行创建、测试以及优化在基于Arm架构上的项目开发,如今,Arm架构得到了所有领先编程语言和运行库的支持,例如Linux操作系统、云原生软件、CI/CD流水线等都已经运行在Arm架构上。从架构、IP到技术库、运行环境和编译器,Arm已启用了主流的基础设施软件。
软硬件充分加持下,Arm Neoverse架构正在吸引一众云服务厂商、CPU厂商、GPU厂商、DPU玩家的青睐。
Arm CPU生态初具规模
首先是云服务厂商的躬身试探,公有云无疑是技术革新的最佳领域。对于不同的云服务厂商来说,由于其构建的生态不同,对芯片的性能需求也是各异。在市场选择不大的情况下,各云厂商选择了自研。
AWS可以说是最早开始自研服务器芯片的云厂商。自2018年至今,AWS的Graviton服务器芯片已经来到第三代。2022年5月下旬,AWS发布了基于Neoverse V1核心的Graviton3,这是第一个支持SVE的通用64位Arm服务器CPU。
无独有偶,在2021年10月份的云栖大会上,阿里巴巴旗下开云棋牌官网在线客服公司平头哥发布自研云芯片倚天710,该芯片基于Armv9架构。这是阿里第一颗为云而生的CPU芯片,将在阿里云数据中心部署应用。
除了云服务厂商自研之外,初创公司Ampere Computing在Arm服务器芯片上的探索则为其他云厂商开辟了另一个选择。Ampere Computing是目前唯一一家为云服务提供商提供商用(独立)Arm服务器芯片的CPU公司,Microsoft Azure、谷歌云、甲骨文云等均使用Ampere Altra产品。
Ampere Computing分别于2020年发布80核的Ampere Altra,2021年发布128核的Ampere Altra Max,两者均基于Arm Neoverse N1内核。Ampere还宣布今年晚些时候将推出采用Arm架构的5nm AmpereOne CPU,但并不是基于Neoverse N1,而是基于Arm ISA自研的核心。不过这对Arm来说是一个极好的迹象,因为Ampere将在公司技术和x86服务器处理器之间进一步扩大服务器CPU空间。
云决策者的两大关键指标是单芯片性能和单线程性能。在这方面,Arm预测,使用Arm Neoverse V1核心的AWS Graviton3可提供最高的单线程性能;Ampere Altra Max和阿里的倚天710能在所有CPU中提供最佳的单芯片吞吐量。
云计算场景之外,5G和边缘领域的芯片厂商也开启试水之路。根据GSA数据显示,现在已有近85个市场提供5G服务,预计到2025年,连接设备将达到约18亿。未来的3-5年依然是5G发展和增强功能交付的关键。在这方面,Marvell最近几年放弃通用服务器业务,转而发展垂直市场,其推出的Thunder服务器芯片已经证明了在超算和商用领域的可行性。在世界移动通信大会 (MWC) 上,戴尔与Marvell宣布强强联手;此外,诺基亚也与Arm在基于Neoverse CPU上进行合作,开发了ReefShark芯片组,如今已全面使用。
在高性能计算(HPC)领域,英伟达是一大代表,2022年3月22日,英伟达宣布推出首款面向AI基础设施和高性能计算的基于Arm Neoverse V2的数据中心的定制CPU Grace,它专为AI和HPC应用程序而设计。Grace专注于IO和内存带宽,与GPU共享主内存,通过NVlink将英伟达的GPU和Grace CPU连接,可扩展到现在需要数天才能运行的超大型AI模型。
早在2013年,亚马逊云科技 (AWS) James Hamilton就提出了一项双论点:其一,鉴于使用Arm架构的芯片出货数量,他确信Arm最终一定能设计出优异的服务器CPU;其二,James注意到,随着时间的推移,越来越多的功能逐渐从主板迁移到SoC上。手机领域已现端倪,服务器方面自然也会效仿。
而如今这两个论点正在实现,在一众厂商的大力推动下,采用Arm Neoverse平台的产品已创下了多项行业第一:第一个总内存带宽超过每秒1TB的CPU;第一个单块裸片上能配置超过100个核心的CPU,核心数达到128个;第一个将DDR5和PCIe Gen5.0推向市场的CPU;第一个在SPEC CPU 2017基准测试中打破500整型跑分的CPU。
Arm Neoverse在全球市场表现不菲,不仅是国际大厂,Arm Neoverse也为广大初创企业创造了良好的发展机遇。
国产CPU和DPU初创企业嗅到商机
近年来正值中国基础设施的计算升级新浪潮,因此,国内服务器芯片赛道也迎来了蓬勃兴起。国内一众初创企业如鸿钧微、遇贤微等将Arm Neoverse作为其服务器芯片的创新基础,甚至新兴的DPU企业也开始率先踏上探索之路。
鸿钧微电子是服务器芯片领域新兴的一员。在鸿钧微电子首席执行官沈荣看来:“数据中心的规模越来越大,其占地与体积随之将变得更大,这意味着要花费更多的资金投入,所以性能密度、功耗效率这些指标便显得尤为重要,而Arm Neoverse符合云计算所需的多核解决方案,具有优异的总拥有成本 (TCO) 优势,让我们找到能真正为客户提供具成本效益的整体解决方案。”据悉鸿钧微电子基于Neoverse N2的服务器CPU产品预计将在明年年底面世。
遇贤微电子是一家正在面向中国云计算市场打造弹性云原生服务器CPU的初创公司,采用的也是Neoverse N2平台。遇贤微电子首席执行官罗勇博士表示:“云计算的巨大增长是新一波科技浪潮的趋势,它将会是全球范围内最大的增量市场之一。而且,云计算生态系统已经是个相对成熟的环境,能让像Arm Neoverse这类的新架构来取代x86,最终用户能够从一致性的Arm Neoverse CPU上获益,也可以加速遇贤微电子产品的部署。”
不止是CPU和GPU这两类芯片,DPU芯片厂商也看中了Arm Neoverse的潜力。DPU (Data Processing Unit) 是最近几年新发展起来的一种专用处理器,被称之为数据中心继CPU和GPU之后的“第三颗主力芯片”。目前DPU主流方案亦开始以Arm Neoverse平台为设计基础。Arm基础设施事业部全球副总裁邹挺表示,“我们认为ASIC系统级芯片是普遍的最后DPU目标产品形态,而从能耗和性能的要求上来看,Arm Neoverse平台将是DPU中ASIC系统级芯片方案的最佳选择。”
国内DPU芯片头部企业云豹智能最新的DPU SoC产品上就采用了大量的Arm CPU,尤其是Neoverse CPU与其高性能互连技术。云豹智能首席芯片架构师及联合创始人莫志城指出:“现阶段数据中心正在快速地从以CPU为中心转变为以DPU为中心。云豹DPU不仅要能处理网络控制面和数据面的卸载,具备高度灵活和可编程能力;同时必须非常高效地处理运维和业务管理。因此我们的可编程DPU必须依赖非常高性能且低功耗的CPU,例如新一代的Neoverse。”据悉,云豹这款DPU产品预计于2023年初流片。
可以看出,由于高性能、低能耗、优异的性能比以及总拥有成本等特点,尤其是完善的自身生态,Arm架构正在吸引广大中国初创芯片企业的涌入,生态“朋友圈”逐渐扩大。另一方面,如Arm Neoverse这样的平台也为这些初创企业提供了很好的发展机会,并在加速芯片进入市场的时间窗口,如上文所述,国内几家初创企业基于Arm Neoverse的产品大多将于明年问世。
总结
全球基础设施领域的建设和升级兴起了新的浪潮,基础设施的未来必将改头换面,定制芯片将是这一变革必需的产物,未来十年,Arm架构的CPU进军智能计算市场已呈不可阻挡之势。这对所有人来说都是一个巨大的机会,处于产业链上的国产芯片企业应该乘着发展的东风,奋力前行。
更多信息可以来这里获取==>>电子技术应用-AET<<