受限波尔兹曼机

被引:102
作者
张春霞 [1 ]
姬楠楠 [2 ]
王冠伟 [3 ]
机构
[1] 西安交通大学数学与统计学院
[2] 长安大学理学院
[3] 西安工业大学机电工程学院
基金
国家自然科学基金重大研究计划;
关键词
机器学习; 深度学习; 受限波尔兹曼机; 对比散度; Gibbs采样;
D O I
暂无
中图分类号
TP181 [自动推理、机器学习];
学科分类号
摘要
受限波尔兹曼机(restricted Boltzmann machines,RBM)是一类具有两层结构、对称连接且无自反馈的随机神经网络模型,层间全连接,层内无连接.近年来,随着RBM的快速学习算法一对比散度的出现,机器学习界掀起了研究RBM理论及应用的热潮.实践表明,RBM是一种有效的特征提取方法,用于初始化前馈神经网络可明显提高泛化能力,堆叠多个RBM组成的深度信念网络能提取更抽象的特征.鉴于RBM的优点及其在深度学习中的广泛应用,本文对RBM的基本模型、学习算法、参数设置、评估方法、变形算法等进行了详细介绍,最后探讨了RBM在未来值得研究的方向.
引用
收藏
页码:159 / 173
页数:15
相关论文
共 9 条
  • [1] 玻尔兹曼机研究进展
    刘建伟
    刘媛
    罗雄麟
    [J]. 计算机研究与发展, 2014, (01) : 1 - 16
  • [2] 基于BM神经网络编码的生理信号情感识别
    潘闻特
    申丽萍
    [J]. 计算机工程与设计, 2012, 33 (03) : 1101 - 1106
  • [3] 结合主元成分分析的受限玻耳兹曼机神经网络的降维方法
    吴证
    周越
    杜春华
    袁泉
    [J]. 上海交通大学学报, 2008, (04) : 559 - 563
  • [4] 神经网络原理[M]. 机械工业出版社 , (美)SimonHaykin著, 2004
  • [5] Discriminative restricted Boltzmann machine for invariant pattern recognition with linear transformations[J] . Nannan Ji,Jiangshe Zhang,Chunxia Zhang,Lei Wang.Pattern Recognition Letters . 2014
  • [6] The flip-the-state transition operator for restricted Boltzmann machines
    Brugge, Kai
    Fischer, Asja
    Igel, Christian
    [J]. MACHINE LEARNING, 2013, 93 (01) : 53 - 69
  • [7] Training restricted Boltzmann machines: An introduction[J] . Asja Fischer,Christian Igel.Pattern Recognition . 2013
  • [8] Enhanced Gradient for Training Restricted Boltzmann Machines
    Cho, KyungHyun
    Raiko, Tapani
    Ilin, Alexander
    [J]. NEURAL COMPUTATION, 2013, 25 (03) : 805 - 831
  • [9] Annealed importance sampling
    Neal, RM
    [J]. STATISTICS AND COMPUTING, 2001, 11 (02) : 125 - 139