高通Gary Brotman:完整的终端侧AI生态系统加速市场发展

2018年03月09日09:36 来源:通信产业网T|T

【移动通信网】MWC一直被誉为手机圈的开年风向标,经过《通信产业报》(网)记者走访发现,AI成为MWC2018上名副其实的爆款,让逐渐步入同质化魔咒的手机市场迎来一丝新意。

由于华为手机的缺席,近几年屡被提及的手机AI化在本届MWC上声量不再。不过这依然抵挡不住人工智能热潮的降临。目前的手机的AI之路,已经从营销噱头走到产业变革。

其中,最值得一提的是,AI芯片迎来大爆发的前夜。平台方面,高通刚刚发布骁龙845处理器,它属于骁龙第三代AI平台,主要通过Kryo385定制架构、Adreno630、Hexagon685在终端异步运算数据,这部分性能和终端解决方案可以让开发者自由选择,相比骁龙835,骁龙845在AI上的计算能力是骁龙835的三倍,并支持多平台的神经网络系统。

在MWC上众多新发布的手机如华硕ZenFone5系列、三星S9系列、索尼XperiaXZ2等,正视采用了高通骁龙845芯片,让自身的AI化成为制胜的砝码。

正如高通产品管理总监GaryBrotman对《通信产业报》(网)记者说的那样,如今,越来越多的终端侧的人工智能用例开始涌现。对高通而言,其拥有完整的终端侧人工智能生态系统,系统的最内层核心是面向AI算法优化的芯片产品,支持不同的主流框架和网络。往外扩一层是广泛的操作系统支持,不仅支持单一的操作系统,而是提供跨平台的解决方案。再往外一层是与大量云服务厂商及独立软件开发商的紧密合作,可将高通芯片应用于不同领域的AI用例中,为用户提供更好的人工智能体验。通过这个自上而下的生态系统,高通正引领和加速人工智能市场的发展。

人工智能的显著变化

传统而言,很多对神经网络的训练和推理都是在云端或者基于服务器完成的。但是过去几年,这样的模式发生了变化,很多人工智能的工作,比如模式匹配、建模检测、分类、识别、检测等逐渐从云端转移到了终端侧。

GaryBrotman表示,三个主要的原因驱动了这样的迁移和演进:

一是数据隐私。消费者对于个人数据隐私极其看重,个人数据的分享应该受到更好的保护,普遍认为终端侧的安全性会更好一些。

二是性能。在终端侧完成相关的处理和推理工作能保持超低时延的操作和运行,如果一切都在云端完成,考虑到云端处理获取信息的往返时间,无疑在时延方面会有很大的挑战。

三是整体的可靠性。终端不可能完全依赖于云端来完成所有AI的运算和处理。而且一旦连接中断,那么终端将失去其自身价值。

“以上是终端侧人工智能能带来的价值,而终端侧也是高通的优势所在。”GaryBrotman说道。“高通是一家个芯片提供商,可以提供相应的解决方案支持不同终端上的AI用例,包括智能手机、智能音箱、联网摄像头、联网汽车、无人机等。作为一个硬件平台和计算平台提供商,高通的角色就是确保这些终端侧AI用例无论是在性能上还是续航表现上都可以高效地运行,在终端侧实现更好的续航和无缝的用户体验。”

人工智能引擎AIEngine支持生态系统

MWC2018上,高通推出了人工智能引擎AIEngine。AIEngine包含了三个部分:硬件上主要是AdrenoGPU、KryoCPU和HexagonDSP。每个内核架构各不相同,在处理不同AI工作负载时有各自的角色和独特价值。比如CPU可以处理32位的浮点运算和8位的定点精准分类网络,保证不同等级的精准性和性能;Adreno支持32位和16位的浮点运算;HexagonDSP可以处理8位的定点运算。这些都是高通在硬件侧做的优化,并提供给开发者和OEM选择。

AIEngine的第二个组成部分是软件部分。GaryBrotman表示,在处理AI用例时,软件和工具无疑更加重要。如果硬件是一个加速的平台,那么在软件层面开发者则能够实现大量的创新,并且实现最新的AI用例。

高通人工智能引擎AIEngine的核心软件构成也包括了三部分:第一,骁龙神经处理引擎软件框架;第二,API,随着GoogleAndroidOreo发布AndroidNNAPI,可以让开发者通过Android操作系统直接访问骁龙平台;第三,高通提供了一个非常独特的HexagonNeuturalNetwork(NN)库,开发者可以直接将人工智能算法在Hexagon向量处理器上运行。

最后一部分是框架,框架相当于是AI算法使用的语言。高通支持很多不同的架构,包括Facebook的Caffe/Caffe2、Google的TensorFlow。近期,微软和Facebook启动了新的开源项目——ONNX(开放神经网络交换)。ONNX的目的在于整合各种框架,支持开发者有更多灵活性,他们可以继续在自己选择的框架进行编程,并通过ONNX与其他框架协同运行。这将为开发者和厂商带来极大的便利,高通也可不必为每一个单一的框架提供支持。GaryBrotman称,这是一个非常有前景的整合趋势,得以支持更广阔的生态系统。

高通的AI+

在AI、5G、IoT的ICT新时代,只有坚持开放与合作思维、生态共赢思维,才对参与各方都有利。高通也同样认为,通过广泛的生态系统合作来推动人工智能的发展大有裨益。

GaryBrotman称,高通的优势在于强大的边缘计算能力,而我们众多生态系统合作伙伴则是开发AI算法和模型的专家,他们拥有大量数据,并有能力实现不同的AI用例。我们的合作伙伴各有所长,每个企业专注的AI细分领域都不尽相同,包括视觉处理、手势追踪等。但无论是哪一家厂商,他们都面向骁龙平台进行了大量算法和模型优化,使得他们的应用能在高通的平台上高效运行。

据了解,高通与两家中国的人工智能软件开发企业——商汤科技和旷视Face++建立了合作关系这两家厂商都已基于骁龙800及骁龙600系列平台开发了优化的AI用例,并且已经实现了商用。除了与软件厂商的合作外,高通还与很多云服务领导厂商开展了合作。其中包括在中国与腾讯的合作,腾讯利用高通的骁龙神经处理引擎对旗下的手机QQ应用程序“高能舞室”进行了优化。此外,高通还和百度基于DuerOS开展合作,发展终端侧的关键词侦测和自然语言处理技术,从而为云端服务提供支持。

同时,高通与谷歌也有着悠久的合作关系,双方在AI领域的合作可以追溯到骁龙820平台,高通帮助谷歌实现TensorFlow面向移动终端的优化,事实上骁龙平台是首款支持TensorFlow的商用移动SoC。在AR领域,高通与微软和亚马逊也基于ONNX交换格式进行了很多合作。GaryBrotman表示,高通正在和这些合作伙伴共同探索终端侧人工智能与云端人工智能的结合。

可以说,高通的AI+中国厂商的合作,带来了巨大的合作红利,就是这种新思维与开放合作的真实写照。


微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
  • 1、回复“LTBPS”免费领取《《中国联通5G终端白皮书》
  • 2、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书
  • 3、回复“TXSB”免费领取《通信设备安装工程施工工艺图解
  • 4、回复“YDSL”免费领取《中国移动算力并网白皮书
  • 5、回复“5GX3”免费领取《R1623501-g605G的系统架构1
  • 7、回复“6G31”免费领取《基于云网融合的6G关键技术白皮书
  • 8、回复“IM6G”免费领取《6G典型场景和关键能力白皮书
  • 本周热点本月热点

     

      最热通信招聘

      最新招聘信息

    最新技术文章

    最新论坛贴子