注册

高通开放AI优化SDK 专用移动芯片也将到来

来源:腾讯数码       

为了加快智能手机处理AI任务的速度,技术公司在进行着各种不同的尝试。微软和ARM在设计更适合运行神经网络的芯片,Facebook和谷歌则想要降低AI本身的性能需求。但对于芯片厂商高通而言,他们目前的计划更加简单:对现有芯片产品进行适配。

高通开放AI优化SDK 专用移动芯片也将到来

高通研发了被称作神经处理引擎(Neural Processing Engine)的软件开发工具包(SDK),来帮助开发者对自己的应用进行优化,让它们能够在骁龙600和800系列处理器上运行AI任务。这也就是说,如果你正在开发一款使用AI(比如图像识别)的应用程序,你可以整合高通的SDK来让它在相兼容的处理器上更快速地运行。

神经处理引擎是高通在1年前作为Zeroth平台(作为一个品牌随后被砍)的一部分所发布的。自去年9月起,高通就开始与多位合作伙伴一同开发这个SDK,而现在,它也终于正式开放,可供所有人使用了。

“已经在深度学习方面有所投入的任意开发者——也就是说他们拥有数据访问权和训练过的AI模型——无论规模大小,都是我们的目标用户,”高通AI和机器学习部门负责人Gary Brotman说道,“它的使用非常简单,我们提取了所有的底层内容,你不必再去进行这些繁重的任务。”

高通表示,Facebook将会成为率先整合该SDK的厂商之一,他们目前正在用它来加速自己手机应用中的增强现实滤镜。通过使用神经处理引擎,Facebook的滤镜加载速度提高了5倍。

高通开放AI优化SDK 专用移动芯片也将到来

至于开发者要如何使用这个SDK,这会根据工作内容的不同而有所区别,但它的基本任务是是把不同的任务分配给骁龙芯片的不同部分。举个例子,如果开发者想要优化续航或处理速度,他们可以从芯片的不同部分来提取计算资源,比如CPU、GPU或DST。

该SDK还支持目前最热门的AI系统开发架构,包括Caffe、Caffe2和谷歌的TensorFlow。高通表示,除了在移动设备上对AI进行优化之外,它同样适用于汽车、无人机、VR头盔和智能家居产品。

但部署能够适配现有处理器的架构只是一个开始。“AI工作负载将会提高对于计算性能的需求。”Brotman说。而为了满足这个需求,技术公司们正在为AI优化芯片开发全新的架构设计。举个例子,微软正在为HoloLens 2开发一种定制的机器学习处理器,英国芯片厂商Graphcore最近筹得3000万美元来为移动设备开发自己的“智能处理单元”。

而对于高通而言,他们在未来也肯定会采取这种策略,只不过现在还没到时候。“对于我们而言,在芯片中加入新内容是一种赌注,我们不会轻易如此,”Brotman说,“如果我们可以对现有产品系列进行优化,就已经算是出色地完成了工作。不过从长期看,我们是否需要专用的神经计算?答案是肯定的,问题在于我们应该何时下注。”

如需获取更多资讯,请关注全球半导体观察官网(www.dramx.com)或搜索微信公众账号(全球半导体观察)。