AI进入爆发期,千亿芯片市场空间
FPGA无指令、无共享内存,并行计算效率高。CPU、GPU都属于冯·诺依曼结构,需要指令译码执行、共享内存,是传统意义上的"软件编程"。而FPGA每个逻辑单元的功能在重编程(烧写)时就已经确定,不需要指令,属于"硬件编程";FPGA每个逻辑单元与周围逻辑单元的连接在重编程时就已经确定,也不需要通过共享内存来通信。FPGA利用硬件并行的优势,打破顺序执行的模式,因此在每个时钟周期内完成更多的处理任务,执行效率大幅提高。
FPGA相对CPU、GPU能耗优势明显。一方面,由于是直接烧录成专用电路,FPGA没有存取指令和指令译码操作,因此功耗优势明显。Intel的CPU指令译码就占整个芯片能耗的50%;在GPU里面,取指令和译码也消耗了10%~20%的功耗。另一方面,FPGA的主频比CPU与GPU低很多,通常CPU与GPU都在1GHz到3GHz之间,而FPGA主频一般在500MHz以下。微软研究院2010年分析了CPU、GPU以及FPGA对矩阵运算的底层库相同运算的加速性能以及能耗,对比执行GaxPy算法(一种常用矩阵算法)每次迭代的时间和能耗,结论是FPGA、GPU相对于CPU的加速比优势明显,与此同时FPGA的能耗仅是CPU与GPU的8%左右。
对于计算/通信密集型任务,FPGA比CPU、GPU延迟低。FPGA同时可拥有流水线并行和数据并行,而GPU几乎只有数据并行(流水线深度受限)。当任务是逐个而非成批到达的时候,流水线并行比数据并行可实现更低的延迟,FPGA比GPU天生有延迟方面的优势。对于通信密集型任务,FPGA相比CPU、GPU的低延迟优势更明显。使用FPGA和ASIC等低延迟和高吞吐量的硬件,运行在网络的最低层,保证所有数据以安全及时的方式传输,能够提高网络可靠性并节省负载。
灵活性和效率的折衷,适应数据中心不断变化的算法。FPGA在数据中心最大的特点就在高吞吐的同时能做到低延时。FPGA内部的资源都是可以重配置的,因此它可以很容易进行数据并行和流水并行,且易于在数据并行和流水并行之间平衡。而GPU几乎只能做数据并行。与ASIC相比,FPGA的可编程性体现出很大的优势。现在数据中心的各种算法每时每刻都在更新变化,没有足够稳定的时间让ASIC完成长周期的开发。比如在一种神经网络模型出来之后开始把它做成ASIC,也许还未投片生产,这个神经网络模型已经被另一种神经网络模型所替代。另一方面,FPGA可以在不同的业务需求之间做平衡。比如说白天用于为搜索业务排序的机器;在晚上请求很少的情况下,可以将这些FPGA重新配置成离线数据分析的功能,提供对离线数据进行分析的服务。目前腾讯云和百度云都大量部署FPGA在数据中心的服务器用于加速。
可编程性会导致面积和功耗冗余,长期看在云端比终端应用更广泛。FPGA的工作模式,决定了需要预先布置大量门阵列以满足用户的设计需求,因此有"以面积换速度"的说法:使用大量的门电路阵列,消耗更多的FPGA内核资源,用来提升整个系统的运行速度。因此,FPGA的可编程性和灵活性必然会导致一定程度上的面积和功耗冗余,但很多场景中可编程性收益远高于冗余成本,这些场景往往在云端更多。因为终端只做"推理",特定场景算法更为固定,成本要求也更高,因此FPGA在终端最终会被ASIC取代。
3.3 市场空间:紧随GPU受益云端数据中心市场爆发,2020年规模或达20亿美元
FPGA数据中心业务将紧随GPU爆发,预计未来5年潜在市场空间达20亿美元。据 Gartner 统计, 2014 年全球 FPGA 市场规模达到 50 亿美元,2015-2020 年的年均复合增长率为9%,到 2020 年将达到 84 亿美元。FPGA 高性能、低能耗以及可硬件编程的特点使其适用范围得以扩大。据Synergy Research Group数据,2016年底超大规模提供商运营的大型数据中心的数量已突破300个,预计到2018年大型数据中心将超过400个。数据中心的快速发展必然拉动FPGA市场增长,我们预计用于数据中心的FPGA市场规模在2020年将达到20亿美元。
数据中心"瑜亮之争":既有GPU,还需FPGA?由于FPGA是硬件语言编程,需要耗费芯片设计工程师资源做上层软件算法的底层硬件的"影射",加之目前性能、成本上综合来看还是GPU更好,所以GPU是目前数据中心主流。但未来FPGA在数据中心业务中前景光明,原因有两点:第一,云巨头企业本质上希望其算法优化从硬件底层起就可实现,而并非完全受控于英伟达GPU的编译和运行性能,为未来底层硬件的自身完全定制化(做自己的ASIC)做准备,所以部分云厂商愿意面向未来,在FPGA开发上投入成本;第二,FPGA功耗特性较GPU好很多,数据中心业务运算量巨大,未来必须考虑功耗问题,如下表
- 解密英伟达Tesla P100、GP100、DRIVE PX2平台(04-26)
- 人工智能处理器三强Intel/NVIDIA/AMD谁称霸?(07-23)
- 2016年人工智能与深度学习领域的十大收购(07-26)
- 人工智能实现的流派 FPGA vs. ASIC看好谁?(08-27)
- IBM沃森能否在人工智能领域突破重围?(09-19)
- 英特尔与高通将在汽车芯片市场再次对决(上)(10-03)