深度学习研究与进展

被引:136
作者
孙志远 [1 ,2 ]
鲁成祥 [1 ,3 ]
史忠植 [1 ]
马刚 [1 ,2 ]
机构
[1] 中国科学院计算技术研究所智能信息处理重点实验室
[2] 中国科学院大学
[3] 曲阜师范大学信息科学与工程学院
关键词
深度学习; 机器学习; 深层神经网络; 图像识别; 语音识别; 自然语言处理;
D O I
暂无
中图分类号
TP181 [自动推理、机器学习];
学科分类号
摘要
深度学习是机器学习领域一个新兴的研究方向,它通过模仿人脑结构,实现对复杂输入数据的高效处理,智能地学习不同的知识,而且能够有效地解决多类复杂的智能问题。近年来,随着深度学习高效学习算法的出现,机器学习界掀起了研究深度学习理论及应用的热潮。实践表明,深度学习是一种高效的特征提取方法,它能够提取数据中更加抽象的特征,实现对数据更本质的刻画,同时深层模型具有更强的建模和推广能力。鉴于深度学习的优点及其广泛应用,对深度学习进行了较为系统的介绍,详细阐述了其产生背景、理论依据、典型的深度学习模型、具有代表性的快速学习算法、最新进展及实践应用,最后探讨了深度学习未来值得研究的方向。
引用
收藏
页码:1 / 8
页数:8
相关论文
共 10 条
  • [1] 深度学习的昨天、今天和明天
    余凯
    贾磊
    陈雨强
    徐伟
    [J]. 计算机研究与发展, 2013, 50 (09) : 1799 - 1804
  • [2] Deep learning in neural networks: An overview[J] . Jürgen Schmidhuber.Neural Networks . 2014
  • [3] Incorporating prior knowledge in support vector machines for classification: A review[J] . Fabien Lauer,Gérard Bloch.Neurocomputing . 2007 (7)
  • [4] Optimization of neural networks: A comparative analysis of the genetic algorithm and simulated annealing[J] . Randall S. Sexton,Robert E. Dorsey,John D. Johnson.European Journal of Operational Research . 1999 (3)
  • [5] SUPPORT-VECTOR NETWORKS
    CORTES, C
    VAPNIK, V
    [J]. MACHINE LEARNING, 1995, 20 (03) : 273 - 297
  • [6] Neocognitron: A self-organizing neural network model for a mechanism of pattern recognition unaffected by shift in position[J] . Kunihiko Fukushima.Biological Cybernetics . 1980 (4)
  • [7] Maximum Likelihood from Incomplete Data via the EM Algorithm[J] . A. P. Dempster,N. M. Laird,D. B. Rubin.Journal of the Royal Statistical Society. Series . 1977 (1)
  • [8] Extracting and composing robust features with denoising autoencoders .2 Vincent P,Larochelle H,Bengio Y,et al. Proceedings ofthe 25th international conference on Machine learning . 2008
  • [9] Neural Networks: A Comprehensive Foundation .2 Haykin S. New Jersey . 1999
  • [10] Sparse Group Restricted Boltzmann Machines .2 H Luo,R Shen,C Niu,C Ullrich. PROCEEDINGS OF THE NATIONAL CONFERENCE ON ARTIFICIAL INTELLIGENCE . 2011