注册

【IC设计】英伟达推出首个数据中心CPU,基于Arm架构,可用于大规模AI和高性能运算

来源:全球半导体观察整理    原作者:carol    

4月13日消息,昨日,英伟达推出了其首个数据中心CPU,该处理器基于Arm架构,代号Grace。

据英伟达介绍,Grace为一款高度专业化的处理器,面向如训练新一代自然语言处理模型的工作负载,这类模型往往具有超过1万亿个参数。

如自然语言处理、推荐系统和AI超算这类应用,涉及对巨量数据集的分析,因而往往对CPU的计算性能与内存具有很高的要求。而英伟达表示,由于Grace处理器结合了能效较高的Arm内核与低功耗的内存子系统,因此可在较低功耗的情况下提供高性能表现。

就英伟达透露出的信息来看,Grace性能的基础来自以下方面:

(1)英特尔称,在Grace上使用了第四代英伟达 NVLink互连技术,该技术在Grace和英伟达GPU之间提供了900 GB / s的连接,与当今领先的服务器相比,其总带宽提高了30倍。

(2)Grace使用了LPDDR5x内存子系统。与DDR4内存相比,该子系统将提供两倍的带宽,并且能效提了10倍。新架构还通过单个内存地址空间提供统一的缓存一致性,将系统和HBM GPU内存结合在一起以简化可编程性。

图片来源:英伟达官网

此外,Grace处理器将能很好地和英伟达现有的GPU结合。英伟达创始人兼首席执行官黄仁勋(Jensen Huang)表示:“尖端的人工智能和数据科学正在将当今的计算架构推向极限,即处理不可思议的数据量……英伟达使用Arm IP将Grace设计为专门用于大规模AI和高性能运算的CPU。结合GPU和DPU,Grace为我们提供了第三种基础计算技术,并具有重新架构数据中心以推进AI的能力。 英伟达现在是一家三芯片公司。”这种结合亦带来性能提升,据介绍,与英伟达GPU结合使用时,基于Grace处理器的系统将比当今最先进的基于英伟达DGX的系统(运行在x86 CPU上)的性能还要快10倍。

英伟达预期,尽管绝大多数数据中心将使用现有的CPU,Grace也能分到一部分利基市场。目前,英伟达已为自己找到两个客户,分别是瑞士国家超级计算机中心(CSCS)和美国能源部的洛斯阿拉莫斯国家实验室(Los Alamos National Laboratory),两家机构计划于2023年引入基于Grace处理器的超级计算机。这一时间节点,亦是Grace的预计上市时间。

封面图片来源:拍信网