热点专题

您所在位置:首页 > 热点专题 > 正文

解读阿里AI芯片含光800:超强算力偏重AI推理

文章作者:www.artspick.com发布时间:2019-10-17浏览次数:1285

对Ali AI芯片的解读包括800:超级计算能力偏向于AI推理

2019 Drive China

Drive China于2019年9月25日举行。今天上午,一年一度的云起大会在杭州隆重开幕。今年的云起大会吸引了来自世界各地的8万多名嘉宾,规模是有史以来最高的。

在今天的主论坛开幕式上,阿里巴巴的半导体公司Pingtou Ge发布了带有光800的新硬件NPU芯片产品。据悉,在Rsenet 50 v1条件下,含光800的峰值性能可以达到 IPS。峰值能效达到500 IPS/W。

佛法学院院长张建峰指出,Light 800是世界上性能最高的AI推理芯片。它比业界最好的AI芯片好四倍;能源效率为500 IPS/W,是第二位的3.3倍。在杭州市大脑的业务测试中,包含800个光源的计算能力相当于10个GPU。

目前,Light 800已经通过阿里云导出了AI计算能力。基于Light 800的AI云服务已于今天正式启动,与传统的GPU计算能力相比,其性价比提高了100%。

“这是Ali首次使用自己的硬件体系结构,也是第一家开发如此大芯片的互联网公司。”张建峰说,该芯片的设计和验证历时一年半,因此充满信心。阿里可以成为一家集成软件和硬件并协同发展的公司。

Light 800是具有偏差推理的AI芯片。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法中,因此需要对两者进行高度调整以最大程度地提高芯片的价值。从当前的角度来看,传统的CPU和GPU在深度学习和推理任务中并未充分利用硬件功能。例如,GPU架构主要针对图像处理设计,其硬件结构和软件生态几乎被巩固,因此难以深度优化AI任务。

light 800的性能突破是由于硬件和软件的协同创新。在芯片架构方面,Light 800采用了创新的架构,支持深度学习中使用的大量权重参数和张量数据,支持稀疏压缩和量化。在处理的基础上,独特设计的数据访问和管道处理技术大大降低了I/O需求和数据移动。 NPU还深度优化卷积,矩阵乘法,矢量计算和各种激活函数,并通过高效的硬件资源调度和完全并行的数据流处理将AI运算的性能和能效提升到了极致。

算法,阿里巴巴达摩的机器智能实验室在过去两年中建立了完整的算法系统,涵盖语音智能,语言技术,机器视觉,决策智能等,并取得了许多世界领先的成果;在硬件方面,阿里巴巴在服务器,FPGA和存储领域拥有多年的研发经验。此外,平头团队在架构和编译技术领域拥有深厚的技术储备。

Drive China于2019年9月25日举行。今天上午,一年一度的云起大会在杭州隆重开幕。今年的云起大会吸引了来自世界各地的8万多名嘉宾,规模是有史以来最高的。

在今天的主论坛开幕式上,阿里巴巴的半导体公司Pingtou Ge发布了带有光800的新硬件NPU芯片产品。据悉,在Rsenet 50 v1条件下,含光800的峰值性能可以达到 IPS。峰值能效达到500 IPS/W。

佛法学院院长张建峰指出,Light 800是世界上性能最高的AI推理芯片。它比业界最好的AI芯片好四倍;能源效率为500 IPS/W,是第二位的3.3倍。在杭州市大脑的业务测试中,包含800个光源的计算能力相当于10个GPU。

目前,Light 800已经通过阿里云导出了AI计算能力。基于Light 800的AI云服务已于今天正式启动,与传统的GPU计算能力相比,其性价比提高了100%。

“这是Ali首次使用自己的硬件体系结构,也是第一家开发如此大芯片的互联网公司。”张建峰说,该芯片的设计和验证历时一年半,因此充满信心。阿里可以成为一家集成软件和硬件并协同发展的公司。

Light 800是具有偏差推理的AI芯片。由于人工智能芯片的差异化设计主要体现在硬件架构和软件算法中,因此需要对两者进行高度调整以最大程度地提高芯片的价值。从当前的角度来看,传统的CPU和GPU在深度学习和推理任务中并未充分利用硬件功能。例如,GPU架构主要针对图像处理设计,其硬件结构和软件生态几乎被巩固,因此难以深度优化AI任务。

light 800的性能突破是由于硬件和软件的协同创新。在芯片架构方面,Light 800采用了创新的架构,支持深度学习中使用的大量权重参数和张量数据,支持稀疏压缩和量化。在处理的基础上,独特设计的数据访问和管道处理技术大大降低了I/O需求和数据移动。 NPU还深度优化卷积,矩阵乘法,矢量计算和各种激活函数,并通过高效的硬件资源调度和完全并行的数据流处理将AI运算的性能和能效提升到了极致。

算法,阿里巴巴达摩的机器智能实验室在过去两年中建立了完整的算法系统,涵盖语音智能,语言技术,机器视觉,决策智能等,并取得了许多世界领先的成果;在硬件方面,阿里巴巴在服务器,FPGA和存储领域拥有多年的研发经验。此外,平头团队在架构和编译技术领域拥有深厚的技术储备。