AI向终端迁移 高通推终端侧人工智能引擎

智能的体现在以前大多都是在大型服务器或者是云端，目前人工智能正向终端侧迈进。在目前的技术发展以及架构下，数据的处理等以及智能的培训也可以在终端设备上进行。而如果要将人工智能向终端迁移，必然会遇到一些难题。首先，人工智能负载本身非常复杂，它不仅需要大量、密集的计算，同时还有始终开启实时在线的需求；此外，智能 手机 、无人机、 汽车 等终端侧产品的计算环境非常受限，要想实现真正的人工智能，在续航、内存和高效散热等方面，都是很大的挑战。

以实现终端侧人工智能所需条件来看不难发现，人工智能的设备首先是高性能低功耗的设备，依托现有的无线通信技术，实现利用5G设备端和云之间的智能配合和连接。而这些都是高通过去几年所专注的领域。

硬件方面，鉴于芯片研发的深入，高通在电池性能和热效率等方面的解决能力已经十分了得，而这也为高通进一步深耕人工智能提供良好基础。除此之外，高通一直致力于算法上的改进。目前整个行业 对于算法的提升尤为重视，高通不仅对未来可能出现的新工作负载和新的用例进行优化，同时也对现有算法进行优化提升，使之能够在移动终端更高效运行解决方案。而在软件工具部分，于终端侧高通提供自己的软件工具以支持在终端侧进行的人工智能，同时也和生态系统中的合作伙伴携手同行，例如支持TensorFlow、Caffe2等。

目前高通推出了人工智能引擎（AI Engine），让人工智能在智能手机等终端侧设备上的应用更快速、高效。该AI Engine包括软硬件两部分，在高通骁龙核心硬件架构（CPU、GPU、VPS向量处理器）上搭载了神经处理引擎、Android NN API、Hexagon神经网络库等软件。目前高通旗下芯片产品骁龙845、骁龙835、骁龙820、骁龙660都将支持该人工智能引擎AI Engine，其中骁龙845将支持当前最顶尖的终端侧人工智能处理。

人工智能引擎作为实现人工智能的重要组成部分，是众多同行者致力于研究的。而一向致力于人工智能终端侧研发的高通，早在2007年就开始启动相关研究项目。多年来的坚持创新，已经有所收获。在2017年7月，高通推出骁龙神经处理引擎，它已经有SDK供开发者开发，能够让工智能工作负载在现有的骁龙移动平台上实现高效的运行。

同时，通过这一套工具包，第三方开发者能够更好地利用多样的Qualcomm的硬件架构，包括CPU、GPU、DSP进行人工智能的处理。此外，该工具包不需要对网络进行特定的人工智能培训，它支持TensorFlow、Caffe、Caffe2以及一些未来即将发布的框架。这套工具包还支持优化的特性：无须专门针对特定的硬件核心进行编程，就可以在我们的一个或多个硬件核心上运行深度神经网络。

自2007年，高通开始探索面向计算机视觉和运动控制应用的机器学习脉冲神经方法，随后在2012年还将其研究范围从仿生方法拓展到了人工神经网络——主要是深度学习领域。2017年更是收购了专注于前沿机器学习技术的阿姆斯特丹大学附属公司Scyfer B.V.，而Scyfer已为全球多个不同行业的公司打造了人工智能解决方案，包括制造业、医疗业和 金融 业。Scyfer创办人，阿姆斯特丹大学着名教授Max Welling博士也加入了高通技术公司，充实壮大了高通人工智能技术研发团队，协助推动人工智能研究与发展。

高通表示，未来的人工智能，应该是具备高通现已支持的高性能、低功耗终端的能力，并能够利用先进的无线通信技术（5G），实现终端侧与云之间的人工智能配合和连接。而目前高通已经具备相应能力，让用户在高通支持的终端上客户能够运行人工智能工作负载。并且实现保护数据所有人的个人信息，将安全做到更好。