新iPhone上搭载的那颗A11芯片，到底牛在哪？

上周， 苹果 公司在刚刚落成投入使用的“飞船”新总部（Apple Park）举行2017年秋季新品发布会，整场发布会基本被iPhone X抢尽了风头（想采访一下iPhone 8/8p的心理阴影面积）。

iPhone 8/8p和iPhone X都搭载了苹果自研的A11 Bionic（仿生）芯片。虽然苹果全程并没有在这款芯片上花太多功夫介绍，但我们仍旧知道它集成了一个专用于机器学习的硬件——“神经网络引擎（Neural Engine）” 

可别小看了这块A11，通过智东西仔细研究发现，它不仅是iPhone X中一众“黑 科技 ”的来源，而且苹果为了打造这块芯片早在9年前就开始了技术布局。

一、参数亮相，跑分爆表了

在介绍A11里专门用于机器学习的“神经网络引擎”之前，我们先来看看A11的基本参数。

工艺方面，A11采用了台积电10nm FinFET工艺，集成了43亿个晶体管（上一代采用16nm工艺的A10 Fusion集成了33亿个晶体管，华为麒麟970则用10nm工艺集成了55亿个）。

A11搭载了64位ARMv8-A架构的6核CPU，其中包括2个名为“Monsoon”的性能核（performance core）和4个名为“Mistral”的能效核（high-eggiciency core），性能核比上一代A10里的快了25%，能效核则快了70%。

而且，与A10不同，A11中使用了苹果自研的第二代新型性能控制器，允许6个CPU内核同时使用，整体性能比上一代快了70%。

至于为什么分为性能核和能效核呢？当 手机 进行发短信、浏览网页等轻量任务时，系统会选择调用能耗更低的能效核（high-eggiciency core），而当手机需要运行对计算能力要求更高的软件时，则需要动用性能核（performance core）进行处理，借此可以有效延长平均电池寿命。 搭载了A11的iPhone X在充满电后，将会比iPhone 7延长2个小时的待机时间。 

A11的另外一大亮点就是首次搭载了苹果自研的GPU，这是一款3核GPU，性能相比A10 Fusion提升30%，只需要一半的功耗就能达到A10的表现。这是今年4月苹果宣布和英国GPU设计公司Imagination Technologies“分手”后推出的首款自研GPU，针对AR、沉浸式3D 游戏 等方面都进行了优化，比A10快了30%。

A11里还集成了苹果自研的ISP、自研的视频编解码器等等。 从种种强调的“自研”我们不难发现，苹果已经越来越强调架构的自主化。 在彻底跟老朋友Imagination Technologies分手后（并且导致人家股价断崖式下跌70%后），苹果的下一个自研目标也许会移到基带技术上，与高通旷日持久的专利诉讼案件算得上是前兆了。 

此外，我们也可以从A11在Geekbench的跑分上一窥究竟：在Geekbench中有A11的几个跑分，其中单核性能最高的是4274，多核性能最高的是10438，而取这些跑分平均值后，单核性能是4169，多核性能是9836。

这是什么概念呢？跟上一代A10的“单核成绩3332，多核成绩5558”比起来，A11在两方面的性能有接近30%和50%的飙升。而iPad Pro中的A10X单核性能平均在3900左右，而多核性能是9200左右，依然弱于A11。

而Android阵营的种子选手——高通骁龙835的GeekBench成绩为单核2000左右，多核6500左右。

二、A11就是“人工智能芯片”

这次，苹果在自家的A11 Bionic芯片上搭载了一个专用于机器学习的硬件——“神经网络引擎（neural engine）”。

现在所谓的手机处理器，比如高通的835、苹果的A11、麒麟970等，实际上所指的是一个“处理器包”封装在一起，这个计算包专业一点说叫Soc（System-on-a-Chip），高大上的说法是“计算平台”；根据分工不同，很多专用功能的处理单元加进来，比如我们最熟悉的是GPU，现在这个包里的独立单元数量已经越来越大，比如ISP（图像处理）、Modem（通信模块）、DSP（数字信号处理）等。

不同的数据进来，交给不同特长的计算模块来处理将会得到更好的效果、更高的能效比， A11的 神经网络引擎（neural engine）跟麒麟970的NPU一样，是在手机处理器平台新加入的一个擅长神经网络计算的硬件模块。 

而这也是为什么从20nm、16nm、到现在的10nm、以及研发中的7nm，各大芯片设计商、代工商都在拼命把芯片技术往小了做，为的就是在不影响芯片大小的前提下挤进更多的独立处理单元。

A11的神经网络引擎采用双核设计，每秒运算次数最高可达6000亿次，相当于0.6TFlops（寒武纪NPU则是1.92TFlops，每秒可以进行19200次浮点运算），以帮助加速人工智能任务，即专门针对Face ID，Animoji和AR应用程序的ASIC（专用集成电路/全定制AI芯片）。

有了神经网络引擎，苹果高级副总裁Phil Schiller很有底气的表示：

“A11 Bionic是一款智能手机到目前为止所能拥有的最强劲、最智能的芯片。而基于ASIC的深度学习，实现了高准确率之外，还能比基于通用芯片（GPU、FPGA）的方案减少功耗。”

不过，苹果对这款神经网络引擎的功耗、实测性能等方面都没有进一步披露。

A11同时也支持Core ML，这是苹果在今年WWDC开发者大会上推出的一款新型机器学习框架，能让开发者更方便地将机器学习技术整合到自己的App中。Core ML支持所有主要的神经网络，如DNN、RNN、CNN等，开发者可以把训练完成的机器学习模型封装进App之中。

三、买买买，买出来的AI帝国

从去2010年开始，苹果就没有停止过收购人工智能创企的步伐，并且每次给出的都是惯常声明：“苹果会不时收购规模较小的科技公司。我们通常不讨论目的或计划。”非常有“事了拂衣去，深藏功与名”的意思。

而且，每个被苹果收购的公司都会立即关闭对外的产品和服务，像是忽然从世界消失一般。

收购芯片厂商

以芯片为例，早在2008年，苹果就以2.78亿美元收购了2003年成立加州的高性能低功耗处理器制造商PA Semi。

随后在2010年，苹果以1.21亿美元收购了1997年成立的美国德州半导体逻辑设计公司Intrinsity，专注于设计较少晶体管、低能耗同时具备高性能的处理器。

2011年年底，苹果又以3900万美元的价格收购了以色列闪存控制器设计公司Anobit。

2013年8月1日，苹果收购了成立于2007年的加州半导体公司Passif Semiconductor，其专长于低功耗无线通讯芯片（大胆地猜测一下Apple Watch的芯片技术是不是来自这里）。

其后的2015年底，苹果再次斥资1820万美元，收购了一间位于加州圣何塞北部的面积7万平方英尺（6500平方米）的芯片制造工厂。这座工厂原属于芯片制造商Maxim Integrated Products，其设施包括了芯片制造工具，而且工厂地址靠近三星半导体公司。

从以上一连串的买买买我们可以看到，苹果的芯片布局早在近十年前就开始了。

除了芯片之外，从2010年至今，苹果已经陆续收购了四五十家创企，包括语音识别、图像/面部识别、计算机视觉、AR、数据挖掘、机器学习、地图、定位等等，而这其中几个比较具备代表性的有：

收购面部识别/表情追踪厂商——Animoji和Face ID的技术来源

2010年，苹果以2900万美元收购瑞典面部识别创企Polar Rose，他们开发的面部识别程序可以可以为用户自动圈出照片中的人脸。

2015年11月，苹果收购《星球大战》背后的动作捕捉技术公司Faceshift，这家苏黎世的 创业 公司开发了实时追踪人脸表情，然后再用动画表现出来的技术。该技术还可以实现面部识别。

2016年1月，苹果收购了加州AI初创Emollient，该公司使用人工智能技术读取图片中的面部表情。

2017年2月，苹果以200万美元收购了面部识别以色列创企RealFace，该公司开发了一种独特的面部识别技术，其中整合人工智能并将人类的感知带回数字过程。

收购AR引擎巨头

2015年5月，苹果收购AR引擎巨头德国Metaio公司。彼时Metaio与Vuforia并肩称霸AR引擎行业，Metaio拥有约15万名开发者，Vuforia则拥有大约18万，两家的SDK开发者占到了当时整个市场的95%以上，在AR的行业地位有如Windows和Mac OS之于PC。这个收购举措，可以看作是ARkit的技术来源。

收购25年德国老牌眼球追踪企业

而离现在最近的一次收购，就是苹果今年6月时宣布收购德国老牌眼动追踪企业SMI（SensoMotoric Instruments）。其历史要追溯到1991年，SMI从柏林自由大学学术医疗研究院剥离出来，独自成立眼球追踪技术公司，迄今已经有超过25年的发展历史了。产品包括面向企业与研发机构的眼球追踪设备/应用、医疗医疗眼控辅助设备、手机、电脑、 VR 设备等的眼控技术支持等。

目前，眼球追踪技术已经被集成在了iPhone X里。在用Face ID解锁时，只要你眼睛没有看着屏幕，屏幕也是不会解锁的。

四、用来干啥：Face ID背后的结构光学技术

既然是“人工智能芯片”，当然是用来做人工智能——人脸识别、图像识别、面部表情追踪、语音识别、NLP、SLAM等等。

而A11的神经网络引擎第一个重要的应用就是iPhone X的刷脸解锁——Face ID。

虽然刷脸解锁并不是什么石破天惊的新技术，但是苹果的Face ID解锁跟普通的基于RGB图像的人脸识别解锁不同。寒武纪架构研发总监刘少礼博士说：

“我们这次对苹果A11的AI引擎了解不多，特别是功耗、实测性能等方面苹果发布会基本没有提。个人觉得iPhone X这次最大的亮点是距离传感器，用来支持3D的Face ID，这个功能在业内还是引起了不小震动，后续会给予这功能开发出不少有趣的应用。通过结构光发射器和红外摄像头配合，可以捕捉人脸的深度信息，比之前用2D图像作人脸识别进步了很多。”

根据原理和硬件实现方式的不同，行业内所采用的3D机器视觉主要有三种： 结构光、TOF 时间光、双目立体成像。 

三种主流的 3D 视觉方案代表性产品

双目立体成像方案软件算法复杂，技术还不成熟；结构光方案技术成熟，功耗低，平面信息分辨率高，但是容易受光照影响，识别距离近；TOF 方案抗干扰性好，识别距离远，但是平面分辨率低，功耗较大。 

综合来看，结构光方案更加适合消费电子产品前置近距离摄像，可应用于人脸识别 、手势识别等方面，TOF方案更加适合消费电子产品后置远距离摄像，可应用于 AR、体感交互等方面。

iPhone X的Face ID采用了人工智能加持的结构光方案： 数据采集由该机正面上方的景深感知摄像机（即“刘海儿”，TrueDepth Camera System）完成，其红外线发射器可以发射3万个侦测点，利用神经引擎（Neural Engine）将反射回来的数据与储存在A11芯片隔区内的数据进行对比，实现用户面部的3D读取与处理。通过神经网络训练的加持，Face ID失误率仅为百万分之一，远小于Touch ID的五万分之一。  

与此同时，iPhone X还具备眼球追踪功能，在你面对屏幕，但是眼睛没有看着它的时候，也是不会解锁的。所以，这样的人脸解锁是照片骗不了的。

而且，苹果的软件工程高级副总裁Craig Federighi曾表示，“我们不会在用户注册Face ID时收集数据，它会保留在你的设备上，不会被发送到云端进行训练。” 符合苹果一贯的“用户隐私为上”理念。

最为神奇的是，用户面容适应（化妆、佩戴眼镜、长胡子、随着年龄增长而变容改变等）过程需要用到的深度学习训练也是在本地完成的。深度学习分为训练（Training）和推理/应用（Inference）两部分，训练阶段所需的计算量比应用阶段的要大上许多。

另一方面，计算与训练的本地化也有助于让Siri变得更加智能。毕竟有不少人认为由于苹果对用户的隐私过于重视，导致Siri发展较慢，竞争对手们后来居上。

此外，在A11的加成下，iPhone X前头“刘海儿”实现的脸部追踪技术还可以用于个人定制化表情Animoji（能捕捉并分析 50 多种不同的肌肉运动）、AR滤镜等，新的互动的方式有望提高用户的参与度和粘性，提高AR 社交 平台的 经济 价值。而3D视觉所提供的景深信息和建模能力是现有普通摄像头无法比拟的。

而iPhone X还搭载了全新陀螺仪和加速计，刷新率达到60 fps，可以实现准确的动作追踪以及很好的渲染效果。在发布会上，苹果全球市场 营销 高级副总裁Phil Schiller是这么说的：“这是第一款真正为AR打造的智能手机。”

五、火热的AI芯片产业

当前人工智能芯片主要分为GPU、ASIC、FPGA。代表分别为NVIDIA Tesla系列GPU、Google的TPU、Xilinx的FPGA。此外，Intel还推出了融核芯片Xeon Phi，适用于包括深度学习在内的高性能计算，但目前根据公开消息来看在深度学习方面业内较少使用。

其中，苹果的A11、寒武纪的A1、谷歌的TPU等都属于ASIC，也就是专用集成电路。

ASIC（Application Specific Integrated Circuit）。顾名思义，ASIC就是根据特定的需求而专门设计并制造出的芯片，能够优化芯片架构，针对性的提出神经网络计算处理的指令集，因而在处理特定任务时，其性能、功耗等方面的表现优于 CPU、GPU 和 FPGA； 但ASIC算法框架尚未统一，因此并未成为目前主流的解决方案。 

寒武纪1号神经网络处理器架构 谷歌ASIC产品探索

现有的ASIC包括谷歌的TPU、我国中科院计算所的寒武纪、应用于大疆无人机和海康威视智能摄像头的Movidius Myriad芯片、曾用于Tesla 汽车 自动驾驶和ADAS的Mobileye芯片等针对特定算法以及特定框架的全定制AI芯片。 

此外，更近一步的的AI芯片前景，大概是IBM的TrueNorth这类的类脑芯片（BPU）。类脑芯片的目的是开发出新的类脑计算机体系结构，会采用忆阻器和 ReRAM 等新器件来提高存储密度，目前技术远未成熟。

不同芯片在人工智能计算方面各有所强

结语：我们离手机AI芯片还有多远？ 

在苹果的推动下，专用AI处理单元可能会越来越成为智能手机芯片的发展趋势。毕竟目前在生物识别、图形图像识别、用户使用习惯学习等方面都越来越依赖机器学习技术，而不太稳定的网络带宽（大家记不记得早期Prisma要等好久才能生成图片）、个人隐私、功耗比等问题也在驱动着手机芯片集成专用AI处理单元的发展。

总的来说，无论是A11还是之前的麒麟970，都是让AI在手机端开始由软到硬落地的表现，是人工智能进一步产业化落地的一个典型代表。