多层神经网络算法的计算特征建模方法

被引：17

作者：

方荣强 ^{[1
]}

王晶 ^{[1
,2
]}

姚治成 ^{[3
]}

刘畅 ^{[1
]}

张伟功 ^{[4
,2
]}

机构：

[1] 首都师范大学信息工程学院

[2] 北京成像理论与技术高精尖创新中心(首都师范大学)

[3] 体系结构国家重点实验室(中国科学院计算技术研究所)

[4] 高可靠嵌入式系统技术北京市工程研究中心(首都师范大学)

来源：

计算机研究与发展 | 2019年 / 56卷 / 06期

关键词：

神经网络; 特征提取; 硬件加速器; 计算机体系结构; 资源调度;

D O I：

暂无

中图分类号：

TP183 [人工神经网络与计算];

学科分类号：

140502 [人工智能];

摘要：

随着深度学习算法在语音和图像等领域中的成功运用,能够有效提取目标特征并做出最优决策的神经网络再次得到了广泛的关注.然而随着数据量的增加和识别精度需求的提升,神经网络模型的复杂度不断提高,因此采用面向特定领域的专用硬件加速器是高效运行神经网络的有效途径.然而如何根据网络规模设计高能效的加速器,以及基于有限硬件资源如何提高网络性能并最大化资源利用率是当今体系结构领域研究的重要问题.为此,提出基于计算特征的神经网络分析和优化方法,基于"层"的粒度解析典型神经网络模型并提取模型通用表达,根据通用表达式和基本操作属性提取模型运算量和存储空间需求等特征.提出了基于最大值更替的运行调度算法,利用所提取的特征分析结果对神经网络在特定硬件资源下的运行调度方案进行优化.实验结果显示:所提方法能够有效分析对比网络特征,并指导所设计调度算法实现性能和系统资源利用率的提升.

引用

页码：1170 / 1181

页数：12