深度信念网络(DBN)网络层次数量的研究及应用

被引:40
作者
高强
马艳梅
机构
[1] 华北电力大学电子与通信工程系
关键词
深度信念网络; 互相关系数; 手写体数字; CIFAR-10数据库;
D O I
暂无
中图分类号
TP391.41 [];
学科分类号
摘要
针对DBN网络隐含层层数难以选择的问题,从通信原理、信息理论以及实验数据等多方面出发,研究了深度信念网络(DBN)隐含层的层次趋势问题。根据各个隐含层输出层不同类图片的互相关系数之间的关系,提出了一种根据互相关系数确定网络深度的方法,证明了当深度学习时,隐含层输出的样本之间的互相关系数达到1(0)或-1时,或者样本之间的互相关系数不再改变时,进一步增加层次对提高分类正确率是没有帮助的。在训练的过程中随机的选取图片,使其更具有普适性。手写体数据库实验和应用于CIFAR-10图像库的数据表明,该方法能够有效提高训练速度。
引用
收藏
页码:234 / 238+262 +262
页数:6
相关论文
共 4 条
[1]
深度学习神经网络在语音识别中的应用研究 [D]. 
陈硕 .
华南理工大学,
2013
[2]
Deep, Narrow Sigmoid Belief Networks Are Universal Approximators [J].
Sutskever, Ilya ;
Hinton, Geoffrey E. .
NEURAL COMPUTATION, 2008, 20 (11) :2629-2636
[3]
A fast learning algorithm for deep belief nets [J].
Hinton, Geoffrey E. ;
Osindero, Simon ;
Teh, Yee-Whye .
NEURAL COMPUTATION, 2006, 18 (07) :1527-1554
[4]
基于深度学习的航空飞行器故障自助检测研究 [J].
冯通 .
计算机仿真, 2015, 32 (11) :119-122