深度学习研究综述

被引：371

作者：

尹宝才

王文通

王立春

机构：

[1] 北京工业大学城市交通学院多媒体与智能软件技术北京市重点实验室

来源：

北京工业大学学报 | 2015年 / 41卷 / 01期

关键词：

深度学习; 深度神经网络; 卷积神经网络; 反卷积网络; 深度玻尔兹曼机;

D O I：

暂无

中图分类号：

TP181 [自动推理、机器学习];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

鉴于深度学习在学术界和工业界的重要性,依据数据流向对目前有代表性的深度学习算法进行归纳和总结,综述了不同类型深度网络的结构及特点.首先介绍了深度学习的概念;然后根据深度学习算法的结构特征,概述了前馈深度网络、反馈深度网络和双向深度网络3类主流深度学习算法的网络结构和训练方法;最后介绍了深度学习算法在不同数据处理中的最新应用现状及其发展趋势.可以看到:深度学习在不同应用领域都取得了明显的优势,但仍存在需要进一步探索的问题,如无标记数据的特征学习、网络模型规模与训练速度精度之间的权衡、与其他方法的融合等.

引用

页码：48 / 59

页数：12

共 10 条

[1] 玻尔兹曼机研究进展 [J].

刘建伟 ;

刘媛 ;

罗雄麟 .

计算机研究与发展, 2014, 51 (01) :1-16

[2]

A quantitative theory of immediate visual recognition[J] . Thomas Serre,Gabriel Kreiman,Minjoon Kouh,Charles Cadieu,Ulf Knoblich,Tomaso Poggio.Progress in Brain Research . 2007

[3] Distinctive image features from scale-invariant keypoints [J].

Lowe, DG .

INTERNATIONAL JOURNAL OF COMPUTER VISION, 2004, 60 (02) :91-110

[4]

Artificial neural networks (the multilayer perceptron)—a review of applications in the atmospheric sciences[J] . M.W Gardner,S.R Dorling.Atmospheric Environment . 1998 (14)

[5]

Sparse coding with an overcomplete basis set: A strategy employed by V1?[J] . Bruno A. Olshausen,David J. Field.Vision Research . 1997 (23)

[6]

On the power of small-depth threshold circuits[J] . Johan H?stad,Mikael Goldmann.Computational Complexity . 1991 (2)

[7]

ImageNet classification with deep convolutional neural networks .2 A. Krizhevsky,I. Sutskever,G. Hinton. Advances in neural information processing systems . 2012

[8]

Learning image representations from pixel level via hierarchical sparse coding .2 K. Yu,Y. Lin,J. Lafferty. Computer Vision and Pattern Recognition . 2011

[9]

Regularization of neural networks using dropconnect .2 L. Wan,M. Zeiler,S. Zhang,Y. L. Cun,R. Fergus. Proceedings of the 30th International Conference on Machine Learning . 2013

[10]

Network in network .2 Lin M,Chen Q,Yan S. . 2013

← 1 →