EN CN
注册

【IC设计】华为发布AI处理器昇腾910及AI计算框架MindSpore

来源:观察者网       

近日,华为在深圳正式发布算力最强的AI处理器Ascend910(昇腾910),同时推出全场景AI计算框架MindSpore。

华为公司轮值董事长徐直军在发布会上表示:华为自2018年10月发布AI战略以来,稳步而有序地推进战略执行、产品研发及商用进程。昇腾910、MindSpore的推出,标志着华为已完成全栈全场景AI解决方案(Portfolio)的构建,也标志着华为AI战略的执行进入了新的阶段。

昇腾910,算力最强AI处理器

徐直军此次正式发布的AI芯片是昇腾910,属于Ascend-max系列。在HC2018上已经发布了其技术规格。实际测试结果表明,在算力方面,昇腾910完全达到了设计规格,即:半精度 (FP16)算力达到256 Tera-FLOPS,整数精度 (INT8) 算力达到512 Tera-OPS,重要的是,达到规格算力所需功耗仅310W,明显低于设计规格的350W。

徐直军表示:昇腾910总体技术表现超出预期,作为算力最强AI处理器,当之无愧。我们已经把昇腾910用于实际AI训练任务。比如,在典型的ResNet50 网络的训练中,昇腾910与MindSpore配合,与现有主流训练单卡配合TensorFlow相比,显示出接近2倍的性能提升。面向未来,针对不同的场景,包括边缘计算、自动驾驶车载计算、训练等场景,华为将持续投资,推出更多的AI处理器,面向全场景持续提供更充裕、更经济、更适配的AI算力。

MindSpore,全场景AI计算框架

徐直军还发布了全场景AI计算框架 MindSpore。能否大大降低AI应用开发的门槛,能否实现AI无处不在,能否在任何场景下确保用户隐私得到尊重和保护,这些都与AI计算框架息息相关。为此,去年华为全联接大会上,华为提出,AI框架应该是开发态友好(例如显著减少训练时间和成本)和运行态高效(例如最少资源和最高能效比),更重要的是,要能适应每个场景包括端、边缘和云。经过近一年的努力,全场景AI计算框架MindSpore在这三个方面都取得了显著进展。

全场景支持,是在隐私保护日渐重要的背景下,实现AI无所不在越来越基础的需求,也是MindSpore的重要特色。针对不同的运行环境,MindSpore框架架构上支持可大可小,适应全场景独立部署。MindSpore框架通过协同经过处理后的、不带有隐私信息的梯度、模型信息,而不是数据本身,以此实现在保证用户隐私数据保护的前提下跨场景协同。除了隐私保护,MindSpore还将模型保护Built-in到AI框架中,实现模型的安全可信。 在原生适应每个场景包括端,边缘和云,并能够按需协同的基础上,通过实现AI算法即代码,使开发态变得更加友好,显著减少模型开发时间。以一个NLP(自然语言处理)典型网络为例,相比其他框架,用MindSpore可降低核心代码量20%,开发门槛大大降低,效率整体提升50%以上。通过MindSpore框架自身的技术创新及其与昇腾处理器协同优化,有效克服AI计算的复杂性和算力的多样性挑战,实现了运行态的高效,大大提高了计算性能。除了昇腾处理器,MindSpore同时也支持GPU、CPU等其它处理器。

为了更好促进AI的应用,徐直军宣布“MindSpore将在2020年Q1开源”,助力每一位开发者,促进AI产业生态发展。

全栈全场景AI解决方案,让AI无处不在

徐直军在发布以上两款产品之前,首先重申了华为公司的AI战略:投资AI基础研究,在计算视觉、自然语言处理、决策推理等领域构筑数据高效(更少的数据需求) 、能耗高效(更低的算力和能耗) ,安全可信、自动自治的机器学习基础能力;打造全栈全场景解决方案,提供充裕的、经济的算力资源,简单易用、高效率、全流程的AI平台;投资开放生态和人才培养,面向全球,持续与学术界、产业界和行业伙伴广泛合作;把AI思维和技术引入现有产品和服务,实现更大价值、更强竞争力;应用AI优化内部管理,对准海量作业场景,大幅度提升内部运营效率和质量。

华为AI解决方案(portfolio)的全场景,是指包括公有云、私有云、各种边缘计算、物联网行业终端以及消费类终端等部署环境。而全栈是技术功能视角,是指包括Ascend昇腾系列IP和芯片、芯片使能CANN、训练和推理框架MindSpore和应用使能ModelArts在内的全堆栈方案。

徐直军也回顾了制定以上AI战略的初衷。华为定位AI是一种新的通用目的技术(GPT),如同19世纪的铁路和电力,以及20世纪的汽车、电脑、互联网一样,将应用到经济的几乎所有地方。同时华为也认为AI的应用总体还处于发展初期,AI技术和能力相比于长远期望还有很大差距。减小甚至消除这些差距,加速AI的应用,正是华为AI战略的初衷和目标。具体包括致力于促成以下10个方面的改变。

通过提供更强的算力,使复杂模型训练能在几分钟、甚至几秒钟内完成,而不是今天的数天甚至数周;提供更经济、更充裕的算力,让算力不再稀缺、不再昂贵,从而不再是AI发展的制约因素;通过全场景方案,适应企业不同需要,确保用户隐私得到尊重和保护,让AI能够部署在任何场景,而不仅仅是公有云。投资基础AI算法研究,实现更少的数据需求,即数据高效。也要能够基于更低的算力和能耗,即能耗高效。通过AI框架MindSpore和应用使能ModelArts,大大提升AI自身的自动化水平,减少对人工的依赖。持续提升模型算法,实现工业生产环境的“工作”优秀,而不仅仅是各种比拼环境的“考试”优秀。实现模型的闭环、实时更新,保证企业AI应用始终处于最佳状态。将AI技术与5G、云、物联网、边缘计算、区块链、大数据、数据库…等技术充分协同,发挥更大价值。通过全栈方案一站式平台,使AI成为所有应用开发者甚至所有ICT技术从业人员的一项基本技能,而不是一项只有具备高级技能的专家才能完成的工作。通过全栈全场景技术手段,结合投资开放的生态和人才培养,让AI人才不再短缺。

昇腾310和ModelArts获得广泛应用

在华为全联接大会2018上,与华为AI战略一起, 作为全栈全场景解决方案的首批组件,华为同时对外发布并正式推出了昇腾310 AI芯片 和全流程模型生产服务ModelArts。昇腾310属于Ascend-mini系列第一颗华为商用AI SoC芯片,在最大功耗仅8W的情况下,其整数精度(INT8)算力达到16Tops,半精度(FP16)算力达 到8Tops,同时,该芯片中还集成了16通道 全高清 视频解码器,是面向边缘计算场景最强算力的AI SoC。

自发布以来,基于昇腾310芯片的产品和云服务获得广泛应用。其中,基于昇腾310的MDC和很多国内外主流车企在园区巴士、新能源车、自动驾驶等场景已经深入合作。基于昇腾310的Atlas系列板卡、服务器,与数十家伙伴在智慧交通、智慧电力等数十个行业落地行业解决方案。基于昇腾310,华为云提供了图像分析类服务、OCR服务、视频智能分析服务等云服务。对外提供API达50多个,日均调用量超过1亿次,而且在快速增长,预计年底日均调用量 超过3亿次。另有超过100多个客户使用昇腾310开发定制AI算法。

ModelArts全流程模型生产服务打通了从数据获取-模型开发-模型训练-模型部署的全链条,可将生产所需的所有服务一站式提供。截止目前,ModelArts已经拥有开发者超过3万,日均训练作业任务超过4000个,32000小时,其中:视觉类作业占85%,语音类作业占 10%, 机器学习5%。

随着今天昇腾910AI处理器以及MindSpore全场景AI计算框架的发布,华为全栈全场景AI解决方案各重要组成部分悉数登场,徐直军因此表示“华为已完成了全栈全场景AI解决方案的构建”。实现了预期的计划和目标,对华为AI,这是一个新的里程碑,更是一个新的开始。在发布会最后,徐直军预告,在即将开幕的华为全联接大会2019,将有更多震撼的AI新品提出。华为期待与伙伴更加深入、广泛的合作,让AI无所不及,把数字世界带给每个人、每个家庭、每个组织。
图片声明:封面图片来源于正版图片库:拍信网

如需获取更多资讯,请关注全球半导体观察官网(www.dramx.com)或搜索微信公众账号(全球半导体观察)。