第4讲 深度学习应用中的常见模型

被引:10
作者
乔林 [1 ]
张雄伟 [2 ]
史海宁 [3 ]
贾冲 [2 ]
机构
[1] 解放军理工大学指挥信息系统学院研究生队
[2] 解放军理工大学指挥信息系统学院
[3] 中石化管道储运有限公司
关键词
神经网络; 卷积神经网络; 递归神经网络;
D O I
10.16464/j.cnki.cn32-1289.2016.01.020
中图分类号
TP183 [人工神经网络与计算]; TP391.41 [];
学科分类号
081104 ; 0812 ; 0835 ; 1405 ; 080203 ;
摘要
近年来,由于在特征提取方面表现出的优异性能,深度学习越来越受到人们的关注。深度学习在语音识别、自然语言处理、计算机视觉、图像与视频分析和多媒体等诸多领域都取得了巨大成功。文章首先介绍了深度学习应用中常见的网络模型,然后分别详细阐述了深度学习在语音和图像上的两种常见模型:深层卷积网络模型和递归神经网络模型。概述了两种模型的网络结构、原理和训练方法,最后讨论了深度学习网络模型中存在的问题。
引用
收藏
页码:98 / 104
页数:7
相关论文
共 9 条
[1]   玻尔兹曼机研究进展 [J].
刘建伟 ;
刘媛 ;
罗雄麟 .
计算机研究与发展, 2014, 51 (01) :1-16
[2]   深度学习的昨天、今天和明天 [J].
余凯 ;
贾磊 ;
陈雨强 ;
徐伟 .
计算机研究与发展, 2013, 50 (09) :1799-1804
[3]  
机器学习[M]. 机械工业出版社 , (美)TomM.Mitchell著, 2003
[4]  
模式分类[M]. 机械工业出版社 , (美)RichardO.Duda等著, 2003
[5]  
A quantitative theory of immediate visual recognition[J] . Thomas Serre,Gabriel Kreiman,Minjoon Kouh,Charles Cadieu,Ulf Knoblich,Tomaso Poggio. Progress in Brain Research . 2007
[6]   A fast learning algorithm for deep belief nets [J].
Hinton, Geoffrey E. ;
Osindero, Simon ;
Teh, Yee-Whye .
NEURAL COMPUTATION, 2006, 18 (07) :1527-1554
[7]   Backpropagation Applied to Handwritten Zip Code Recognition [J].
LeCun, Y. ;
Boser, B. ;
Denker, J. S. ;
Henderson, D. ;
Howard, R. E. ;
Hubbard, W. ;
Jackel, L. D. .
NEURAL COMPUTATION, 1989, 1 (04) :541-551
[8]  
Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position[J] . Kunihiko Fukushima. Biological Cybernetics . 1980 (4)
[9]  
Applying convolutional neuralnetworks concepts to hybrid NN-HMM model for speech recognition .2 Abdel-Hamid O,Mohamed A.-r,Jiang H. et al. InternationalConference on Acoustics, Speech and Signal Processing (ICASSP) . 2012