来源:科技新报
研调机构TrendForce集邦咨询17日举办AI服务器论坛,美光透露目前DDR5酝酿许久,而HBM产能在2025年前已满载,美光在各种存储器产品有多种布局,也为AI数据中心提供强大支持。
美光在全球布局超过54,000项专利,存储器和存储技术领先业界,目前已经酝酿很久DDR5,下一代会做到1γ制程,采用EUV制程技术,计划2025年率先在中国台湾量产。
美光表示,公司拥有广泛的产品群组、长周期生命产品,以及完整的系统规划。随着AI改变数据中心生态,读取方式已经不同,必须跟着AI神经网路模式运作,因此深度学习的读写比率已经到5000:1,意味着读取速度远超过写入速度,因此选择合适的储存设备相当重要。
对此,美光也进行服务器架构优化,当GPU服务器和SSD以1:1方式进行训练,效能会做到最好。另外,随着AI时代来临,在AI效能和成本间的平衡也越发重要,美光推出能最佳化现有系统并延长设备寿命的DDR4,速度高达3,200MT/s。在多核心CPU架构下,美光DDR5以6,400MT/s速度,使频宽增至DDR4的2倍、深度学习效能为DDR4的5倍、AI性能提升7倍,支持AI、HPC和企业负载。
NAND部分,美光目前推出232层NAND,以稳定在产品上应用为主,并同步发展HBM3e甚至HBM4。美光表示,CXL也是未来相当重要的发展方向,目前推出的CZ120为存储器扩充模组,可提供更多容量、频宽和灵活配置,是较为前端的应用,目前样品已经分享给合作伙伴。
晶心科技资深技术经理胡鸿光指出,RISC-V具有模组化优势;开源架构、没有法律问题;可最少指令集进行设计,因此能做到非常精简、有效率的状态;具有客制化优点,每个客户能自己增加指令和自己的功能。RISC-V架构可以用于数据中心、车用、移动设备等任何AI需求产品。
晶心科成立已经有19年,在今年1月的SHD报告中,该公司在RISC-VIP供应商中市占率高达30%,联发科、联咏、瑞萨、群联等都有长期合作,另外一个主要大客户是Meta。
胡鸿光认为Meta之所以选择RISC-V,优势在于容易客制化、有极大弹性,而RISC-V新出的矢量指令集在做AI运算极具影响力,另外晶心科提供客制化指令集工具Andes Custom Extension(ACE),提供Meta增加私有客制指令介面与暂存器,可达成其需求。
最后针对AI服务器市况,TrendForce资深分析师龚明德指出,有几大重点领域,主要拉货领域包括北美CSP(云端服务供应商),包括公有云、搜寻引擎、广告推荐系统等。
今年服务器仅成长近2%,因为受到AI预算排挤,而AI服务器需求畅旺,出货量可望达166万台,年增近41%。龚明德预期,今年第二季成长较明显,因为Nvidia H100前导时间(leading time)缩短,逐季看好。
龚明德预期,Nvidia今年高端GPU出货量将年增超过110%,到下半年产品品将过渡到H200,而B100将进入早期量产阶段。至于AMD高端AI解决方案会主要面向CSP,搭载M1300 XAl芯片的Al服务器预计下半年将成主流,而第二供应商的身份有望带来AMD成长。
同时,CSP内部开发的ASIC也将发挥关键作用。到了2024年,AWS将在下一代ASIC投入大量资源,Meta和中国大陆CSP亦是如此。CSP今年仍将是AI服务器主要成长动能,尤其北美四大CSP已经占六成采购量,中国大陆自主芯片需求也会强劲。
最后针对Nvidia Blackwell平台,龚明德认为这款产品主要面向CSP,并推动CoWoS和HBM出货量在2025年实现双高个位数成长。
封面图片来源:拍信网