注册

未来AI计算基石--Arm技术架构,如何扮演重要角色?

来源:全球半导体观察    原作者:Viki    

11月21日,Arm Tech Symposia 2024年度技术大会在深圳成功举行,来自全球的3500余名行业专家、工程师及开发者齐聚一堂,共同见证了Arm在AI计算平台领域的最新成果与未来展望。这场以“让我们携手重塑未来”为主题的盛会,不仅展示了Arm在硬件、软件及生态系统方面的全面布局,还深刻探讨了AI如何为各个应用市场带来全面变革,引领计算技术迈向新纪元。


图片来源:Arm

本次大会期间,Arm终端事业部产品管理副总裁James McNiven发表了题为“构建人工智能计算平台的未来”的主题演讲。他强调,我们正身处AI时代,AI的发展将对各个行业提出越来越多样化的需求。Arm作为全球领先的计算平台公司,正致力于通过创新技术和生态系统合作,推动AI技术的广泛应用和深入发展。


图片来源:Arm

软硬件深度协同,构建AI计算平台基石

为了充分释放AI的潜力,Arm提出了超越硬件的设计方法,从系统层面思考问题,将硬件、软件和生态无缝集成到一个全面的解决方案中,使其具备卓越的可扩展性、性能和能效,并且能够加速产品上市。为此,Arm推出了 Arm 计算子系统 (CSS),为客户提供优化的解决方案,强大的软件生态系统,以及更快的上市时间。

同时, Arm认为,AI PC将带来巨大的机遇。十多年前,Arm首次将AI功能引入Arm架构,随后在Armv8架构中引入64位技术,但真正开启AI时代的,则是适用于AI时代的全新技术架构Armv9。Arm称,未来十年的Arm计算平台是专为AI而设计的,所有这些功能将通过软硬件能力的结合来实现,并提到可伸缩向量扩展(SVE)、可伸缩矩阵扩展(SME)等关键技术,将帮助实现对AI工作负载的高效加速。

目前全球有超过2000万名开发者在基于 Arm 架构的设备上构建应用,Arm在软件方面的持续投入已取得显著成效,正建立起全球最大的AI开发者社区。为了降低开发难度,提高开发效率,Arm同步在构建 AI 框架、AI 软件库和 AI 技术—— KleidiAI。Kleidi能够解锁全球领先的AI框架在Arm平台上的性能,使开发者无需额外工作即可享受到最新的AI优化成果。据悉,Kleidi技术在基于Arm架构的AWS Graviton处理器上运行Llama3模型时,词元(token)首次响应时间可提高了2.5倍。合作方面,Arm与腾讯展开了深入合作,并对其混元大模型进行优化。通过集成Kleidi,混元大模型的预填充部分加速了100%,解码器速度提高了10%,帮助实现更快、更高效的AI操作。

在生态系统建设方面,Arm推出了Arm全面设计(Arm Total Design,ATD)生态项目,为生态系统合作伙伴提供了一个专注于各自擅长领域,从而更快、更具成本效益地开发出更好、更强大产品的平台。

此外,在大会现场,Arm还与多位合作伙伴进行了深度对话和技术分享。vivo产品线总经理韩伯啸表示,vivo与Arm持续深化合作,共同推出了基于第二代全大核架构的天玑9400平台,实现了PC级别的CPU性能。广汽汽车集团汽车工程研究院车载软件专业总师廖磊则在大会期间分享了汽车产业竞争态势下的创新研发模式,强调了软件定义汽车(SDV)在引领车载软件研发模式变革中的重要作用。


vivo 产品线总经理韩伯啸(右)与 Arm 中国区业务全球副总裁邹挺(左)展开深度对话(图片来源:Arm)

未来,AI计算平台将重塑世界

随着AI技术的不断发展,Arm计算平台将成为未来AI计算的基石。从传感器、智能手机到工业物联网、汽车和数据中心,Arm架构将广泛应用于各个领域,推动AI技术的深入应用和普及。

Arm预计,到2025年底,全球将有超过1000亿台具备AI能力的Arm设备。这些设备将覆盖人们生活的方方面面,从智能家居到自动驾驶汽车,从智能医疗到智能教育,AI技术将深刻改变人类社会的各个方面。


图片来源:Arm

James McNiven指出,AI的潜力是变革性的,它不仅在简化生活,还在改变我们与世界交互的方式。从解锁手机、观看特效视频,到与AI展开对话,AI技术正逐渐渗透到教育、通讯、医疗等多个领域,为人类带来前所未有的互动体验。在大会上他分享了DeepMind使用AI预测蛋白质结构而荣获诺贝尔化学奖的案例,展示了AI在科学领域的颠覆性应用。

针对终端AI的未来发展趋势,James McNiven认为,在AI的发展方向和新的用例方面,AI工作负载正在急剧增长。但具体增长到什么程度尚未可知。毕竟,就像两年前,市场可能还没有预想到会有今天这样的一些用例。但Arm认为,未来需要支持更多处理能力,并需要关注对新型数据类型的支持。

James McNiven强调,如今市场上有越来越多的图像生成和音乐生成,而视频生成将是一个巨大的挑战,同时也是一个非常令人兴奋的未来方向。尤其是当考虑到视频生成与AR或VR的结合时,这将变得更加有趣,也非常具有吸引力。而好消息是,对整个生态系统而言,这将需要大幅提升的性能、更高的效率,以及更快速的产品迭代,将带来了巨大的机遇。

此外,他还提到了中国市场在AI领域的蓬勃发展,包括汽车、智能终端、数据中心等领域的AI应用增长情况。在汽车领域,根据分析机构的预测数据,到2026年底,中国的道路上预计将有超过100万辆搭载L3级别ADAS(高级驾驶辅助系统)的汽车。在智能终端领域,预计到今年年底,中国将有1.7亿台以上支持AI的智能手机,55%的PC将支持AI功能。在数据中心领域,AI数据中心将增长5倍。

总体而言,在AI技术的推动下,未来的世界将更加智能、便捷和高效。Arm表示,将继续与合作伙伴携手共进,共同推动AI技术的发展和应用,通过其技术不断迭代,助力客户把握AI机遇。