打造深度学习生态闭环,为人工智能赋能
时间:10-02
整理:3721RD
点击:
作为第二代分布式计算联盟创始成员以及OpenPower组织联盟成员,恒扬数据与赛灵思、IBM在分布式计算领域有着深入密切合作。据恒扬数据张军介绍,2015年起,恒扬就关注到在全球7大超级数据中心,特别是在机器学习、深度学习领域,FPGA会成为主流应用之一,今年10月百度宣布设计出用以加速机器学习推断的赛灵思 UltraScale FPGA池以及11月AWS大会上Amazon EC2 F1实例,更加坚定了我们的想法。
比如Amazon EC2 F1实例,它是第一个用于FPGA应用加速的可编程硬件云实例,用户可以选择最高集成8块高性能16nm Xilinx UltraScale+ VU9P FPGA的方式,将FPGA架设在云端,类似于Vivado HLS/SDSoC remote server模式,用户只需要购买云服务,即可获得相应的开发工具,包括集成深度学习主流框架的应用开发套件、应用函数库、配置管理工具等等,进行开发、仿真、调试、编译等工作,定制FPGA硬件加速,从而大幅降低开发难度,缩减开发时间,让云服务用户更加便捷地加速深度学习推断、基因分析、金融分析、视频处理、大数据、安全等工作负载。
目前,恒扬非常看好类似的应用,正在与国内的几大数据中心展开联手合作,我们致力于与赛灵思联手,与超大数据中心进行深度合作,挖掘FPGA在深度学习中的潜能。
如果说与数据中心展开深入合作是恒扬建立深度学习生态圈组合拳的第一记重拳,那么丰富自身算法库,与行业应用深入结合,形成完整的商业闭环,则是恒扬的第二记重拳。相比较而言,FPGA的开发难度是比较高的,它要求开发人员必需对底层硬件编程语言例如Verilog非常熟悉,即便是使用类C的 OpenCL进行开发,对软件开发人员而言,还是具有一定难度,因此必须集成快速开发工具、算法库、算法框架集成包及参考设计样板,为应用深度学习算法开发人员和平台设计人员提供最快速、最便捷的开发和部署途径。目前,恒扬重点开发的算法库包括CNN卷积神经网络、压缩算法、视频图像缩放等,下一步恒扬还将逐步完善对主流caffe、tensorflow算法框架的支持,将体系进一步完善化。
在完善算法的同时,将技术与行业紧密结合,打通商业闭环也是恒扬重点布局的方向。FPGA的特性决定了它在某些特定行业应用上具有得天独厚的优势,例如在医疗领域,医学影像比普通图像纹理更多,分辨率更高,相关性更大,存储空间要求更大,必须严格确保临床应用的可靠性,其压缩、分割等图像预处理、图像分析及图像理解等要求更高。这些特点恰恰可以充分发挥FPGA的优势,通过FPGA加速图像压缩进程,删除冗余,提高压缩比、并确保图像诊断的可靠性。类似的医疗领域应用还有基因测序加速。
再比如在金融领域,由于采用流水线逻辑体系结构,数据流处理要求低延时,高可靠,这在金融交易风险建模算法应用中是极大的关键点,FPGA正具备了此种优势。类似的行业和领域还有很多,比如视频转码直播、内容过滤、视频安防等等。
除了在云端构建恒扬深度学习生态圈外,对于特定的不适合放在云端的终端应用,如无人机、自动驾驶、机器人,恒扬也开始逐步探索,我们相信,在智能时代,FPGA会扮演越来越重要的角色,成为变革全球经济的重要技术手段,更多地改变我们的学习、工作和娱乐方式。
比如Amazon EC2 F1实例,它是第一个用于FPGA应用加速的可编程硬件云实例,用户可以选择最高集成8块高性能16nm Xilinx UltraScale+ VU9P FPGA的方式,将FPGA架设在云端,类似于Vivado HLS/SDSoC remote server模式,用户只需要购买云服务,即可获得相应的开发工具,包括集成深度学习主流框架的应用开发套件、应用函数库、配置管理工具等等,进行开发、仿真、调试、编译等工作,定制FPGA硬件加速,从而大幅降低开发难度,缩减开发时间,让云服务用户更加便捷地加速深度学习推断、基因分析、金融分析、视频处理、大数据、安全等工作负载。
目前,恒扬非常看好类似的应用,正在与国内的几大数据中心展开联手合作,我们致力于与赛灵思联手,与超大数据中心进行深度合作,挖掘FPGA在深度学习中的潜能。
如果说与数据中心展开深入合作是恒扬建立深度学习生态圈组合拳的第一记重拳,那么丰富自身算法库,与行业应用深入结合,形成完整的商业闭环,则是恒扬的第二记重拳。相比较而言,FPGA的开发难度是比较高的,它要求开发人员必需对底层硬件编程语言例如Verilog非常熟悉,即便是使用类C的 OpenCL进行开发,对软件开发人员而言,还是具有一定难度,因此必须集成快速开发工具、算法库、算法框架集成包及参考设计样板,为应用深度学习算法开发人员和平台设计人员提供最快速、最便捷的开发和部署途径。目前,恒扬重点开发的算法库包括CNN卷积神经网络、压缩算法、视频图像缩放等,下一步恒扬还将逐步完善对主流caffe、tensorflow算法框架的支持,将体系进一步完善化。
在完善算法的同时,将技术与行业紧密结合,打通商业闭环也是恒扬重点布局的方向。FPGA的特性决定了它在某些特定行业应用上具有得天独厚的优势,例如在医疗领域,医学影像比普通图像纹理更多,分辨率更高,相关性更大,存储空间要求更大,必须严格确保临床应用的可靠性,其压缩、分割等图像预处理、图像分析及图像理解等要求更高。这些特点恰恰可以充分发挥FPGA的优势,通过FPGA加速图像压缩进程,删除冗余,提高压缩比、并确保图像诊断的可靠性。类似的医疗领域应用还有基因测序加速。
再比如在金融领域,由于采用流水线逻辑体系结构,数据流处理要求低延时,高可靠,这在金融交易风险建模算法应用中是极大的关键点,FPGA正具备了此种优势。类似的行业和领域还有很多,比如视频转码直播、内容过滤、视频安防等等。
除了在云端构建恒扬深度学习生态圈外,对于特定的不适合放在云端的终端应用,如无人机、自动驾驶、机器人,恒扬也开始逐步探索,我们相信,在智能时代,FPGA会扮演越来越重要的角色,成为变革全球经济的重要技术手段,更多地改变我们的学习、工作和娱乐方式。
人工智能是一个大方向
人工智能主要依靠fpga和算法的实现
人工智能未来前景很大
222222222222222222222222222
AI是未来发展方向,但是路很长,另外,AI的范围太广。
前面的路还很遥远