一文读懂华为麒麟970为何选择寒武纪做AI

上周六，DT 君在柏林 IFA 现场深度报道了华为最新发布的移动端 AI 芯片。此后，DT 君独家专访了深度参与麒麟 970 方案设计的一位相关人士，但这位相关人士拒绝在文章中透露其姓名及身份。

这位相关人士表示，麒麟 970 整合NPU（Neural Processing Unit，神经处理单元）构想早在五年前就已经开始酝酿。

就当初的情况而言，产业界已经逐渐看到 CPU 的应用瓶颈，而 GPU 虽然也开始参与计算工作，但其主要的显示工作随着分辨率的提高而负担不断加重，所以要让这个已经分身乏术的架构继续增加负荷，对整体性能以及功耗表现也是会产生负面影响。

可以说，为追求更高的应用效率，以及更好的功耗表现，只让 CPU 或 GPU 架构参与计算已经远远不够满足需求。

事实上，当初的主流移动芯片架构也已经不会只内建此两种架构，而多半会增加额外的 DSP 单元或者是 ISP 架构，不仅分担主系统的沉重计算负担，也因为让不同类型的计算工作可以摆到更适合的计算架构上，整体功耗也有了明显的改善。

可以说，AI 正是基于同样的概念：让适合的架构来做适合的工作，效率才会得到提高。

图丨余承东展示麒麟970

这位相关人士对 DT 君表示，华为在当时就决定了未来 AI 相关计算，将会以专用架构的设计方式进行，这就好比绘图工作会交给 GPU 而不是 CPU 是一样的道理。

寒武纪的生态经营和架构优势赢得华为青睐

当然，以华为旗下海思的芯片设计功力，如果要从无到有设计出专用的 NPU 单元，也不是不可能的事情--此类 NPU 架构单纯，设计难度也不会比 CPU 更高，但问题出在生态方面。

这位相关人士表示，如果完全自主开发，从无到有的经营生态，华为有可能在未来方案推出时，缺乏市场开发者以及相关生态的支持，恐怕结果只会是事倍功半。

众所周知，寒武纪的前身是中国科学院计算技术研究所下的一个课题组，由陈云霁、陈天石教授领导。

该课题组早在 2008 年就已经开始研究神经网络算法以及芯片设计。寒武纪第一代方案在 2012 年推出，65nm 工艺下功耗为 0.485W，面积 3.02mm²。平均性能超过主流 CPU 核的 100 倍，但面积和功耗仅为 1/10，表现相当惊人。

图丨寒武纪1A处理器（Cambricon-1A）

不过，当初寒武纪有个非常直白的命名代号，叫做 DianNao，就是中文拼音的"电脑"--顾名思义就是拿来做计算工作的、用电的"大脑"。当初，这个命名并不是中国人的主意，而是研究团队中法国人的建议--不用当时已经烂大街的神经网络芯片之类的命名，反其道而行用中文取名，外国人反觉得十分高大上，相当有趣。

中科院在 DianNao 的基础上开发出 DaDianNao（第二代，功能增强）、PuDianNao（第三代，普电脑，通用型机器学习晶片）、ShiDianNao（视电脑，图像识别处理器）、DianNaoYu（电脑语，神经网络指令集）等延伸规格，针对不同应用或目的特化，也看得出研究团队对命名规则的坚持。

这位相关人士对 DT 君表示，寒武纪实际上是基于对整个软硬件优化的平台，拥有成熟的硬件，以及软件界面设计，生态支持能力绝佳，且因为知识产权完全自有，不怕受制于人。也因此，华为一方面为了节省成本，一方面又要有足够竞争优势的架构设计，考量二者得出的唯一解答：就是寒武纪了。

图丨寒武纪科技

NPU到底有多强大？

NPU 本身可达到 1.92 TFLOPS 的半精度（16bits）计算能力，以 IFA Keynote 上提到的应用案例为例，使用 NPU 可在一分钟内辨识超过两千张图片。换句话说，每秒可辨识超过 30 张图片，这对于需要及时分析的场景识别或者是合成，所需要的数据分析，已经可以达到几乎实时的地步。

而就华为给出的 25 倍速度，50 倍效率推算，该 NPU 功耗全负载大约只有 CPU 的一半，如果以计算效率/功耗换算，大概是 0.8 TFLOPS/W，如果以 NVIDIA 的 V100 方案作比较，V100 约为 0.4 TFLOPS/W。

可见，麒麟970内建的 NPU 效率之高了。

从云端到本地端硬件的AI应用

DT 君在之前的报道分析中也提及，云端性能强大，学习快速，但学习得出来的模型是通用模型，很难针对小众有订制化的调整，并满足消费者的应用场景。

但过去本地端硬件性能不足，虽然可通过云端学习，但数据这么一来一往，效率极低，无法做到实时处理。若本地端硬件拥有强大的 AI 学习能力，那么就不需要把数据上传到云端，直接在本地端处理即可，效率更高，且更能确保数据的安全与隐私。

这位相关人士表示，环顾业界，其实不是只有华为在做终端的 AI 计算工作，但华为提