基于反卷积特征提取的深度卷积神经网络学习

被引:64
作者
吕恩辉
王雪松
程玉虎
机构
[1] 中国矿业大学信息与控制工程学院
关键词
反卷积神经网络; 卷积神经网络; 卷积核; 动量系数; 小批次随机梯度下降;
D O I
暂无
中图分类号
TP18 [人工智能理论];
学科分类号
140502 [人工智能];
摘要
在深度卷积神经网络的学习过程中,卷积核的初始值通常是随机赋值的.另外,基于梯度下降法的网络参数学习法通常会导致梯度弥散现象.鉴于此,提出一种基于反卷积特征提取的深度卷积神经网络学习方法.首先,采用无监督两层堆叠反卷积神经网络从原始图像中学习得到特征映射矩阵;然后,将该特征映射矩阵作为深度卷积神经网络的卷积核,对原始图像进行逐层卷积和池化操作;最后,采用附加动量系数的小批次随机梯度下降法对深度卷积网络微调以避免梯度弥散问题.在MNIST、CIFAR-10和CIFAR-100数据集上的实验结果表明,所提出方法可有效提高图像分类精度.
引用
收藏
页码:447 / 454
页数:8
相关论文
共 3 条
[1]
Network in network based weakly supervised learning for visual tracking.[J].Yan Chen;Xiangnan Yang;Bineng Zhong;Huizhen Zhang;Changlong Lin.Journal of Visual Communication and Image Representation.2016,
[2]
Detection guided deconvolutional network for hierarchical feature learning [J].
Liu, Jing ;
Liu, Bingyuan ;
Lu, Hanging .
PATTERN RECOGNITION, 2015, 48 (08) :2645-2655
[3]
Backpropagation Applied to Handwritten Zip Code Recognition [J].
LeCun, Y. ;
Boser, B. ;
Denker, J. S. ;
Henderson, D. ;
Howard, R. E. ;
Hubbard, W. ;
Jackel, L. D. .
NEURAL COMPUTATION, 1989, 1 (04) :541-551