深度学习相关研究综述

被引：109

作者：

张军阳

王慧丽

郭阳

扈啸

机构：

[1] 国防科技大学计算机学院

来源：

计算机应用研究 | 2018年 / 35卷 / 07期

基金：

国家重点研发计划;

关键词：

深度学习; 神经网络; 算法模型; 软件工具; 硬件加速;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

为了能够及时跟踪深度学习技术的最新研究进展,把握深度学习技术当前的研究热点和方向,针对深度学习技术的相关研究内容进行综述。首先介绍了深度学习技术的应用背景、应用领域,指出研究深度学习技术的重要性,以及当前重要的几种神经网络模型及两种常用大规模模型训练并行方案,其目的在于从本质上理解深度学习的模型架构及其优化技巧。对比分析了当下主流的深度学习软件工具和相关的工业界研究平台,旨在为神经网络模型的实际使用提供借鉴;详细介绍了当下几种主流的深度学习硬件加速技术和最新研究现状,并对未来研究方向进行了展望。

引用

页码：1921 / 1928+1936 +1936

页数：9

共 12 条

[1] 迁移学习研究进展
庄福振
罗平
何清
史忠植
[J]. 软件学报, 2015, 26 (01) : 26 - 39
[2] 多尺度特征和神经网络相融合的手写体数字识别
赵元庆
吴华
[J]. 计算机科学, 2013, 40 (08) : 316 - 318
[3] 基于深度学习的边际Fisher分析特征提取算法
孙志军
薛磊
许阳明
[J]. 电子与信息学报, 2013, 35 (04) : 805 - 811
[4] 机器学习及其应用[M]. 清华大学出版社 , 周志华, 2011
[5] Convolutional networks for fast, energy-efficient neuromorphic computing[J] . Steven K. Esser,Paul A. Merolla,John V. Arthur,Andrew S. Cassidy,Rathinakumar Appuswamy,Alexander Andreopoulos,David J. Berg,Jeffrey L. McKinstry,Timothy Melano,Davis R. Barch,Carmelo di Nolfo,Pallab Datta,Arnon Amir,Brian Taba,Myron D. Flickner,Dharmendra S. Modha.Proceedings of the National Academy of Sciences . 2016 (41)
[6] Training products of experts by minimizing contrastive divergence
Hinton, GE
[J]. NEURAL COMPUTATION, 2002, 14 (08) : 1771 - 1800
[7] Backpropagation Applied to Handwritten Zip Code Recognition
LeCun, Y.
Boser, B.
Denker, J. S.
Henderson, D.
Howard, R. E.
Hubbard, W.
Jackel, L. D.
[J]. NEURAL COMPUTATION, 1989, 1 (04) : 541 - 551
[8] Auto-association by multilayer perceptrons and singular value decomposition[J] . H. Bourlard,Y. Kamp.Biological Cybernetics . 1988 (4)
[9] Cambricon:an instructionset architecture for neural networks .2 LIU S,DU Z,TAO J,et al. ACM Sigarch Co-mputer Architecture News . 2016
[10] Unsupervised learning of visual invariance with temporal coherence .2 Zou W Y,Ng A Y,Yu Kai. http://ai.stanford.edu/-wzou/nipswshopZou Ng Yu11.pdf . 2012

← 1 2 →