BP神经网络子批量学习方法研究

被引:18
作者
刘威
刘尚
周璇
机构
[1] 辽宁工程技术大学理学院
关键词
子批量学习; 神经网络; BP算法; 批量尺寸; 训练方法评估; 分类;
D O I
暂无
中图分类号
TP18 [人工智能理论];
学科分类号
140502 [人工智能];
摘要
针对浅层神经网络全批量学习收敛缓慢和单批量学习易受随机扰动的问题,借鉴深度神经网基于子批量的训练方法,提出了针对浅层神经网络的子批量学习方法和子批量学习参数优化配置方法。数值实验结果表明:浅层神经网络子批量学习方法是一种快速稳定的收敛算法,算法中批量和学习率等参数配置对于网络的收敛性、收敛时间和泛化能力有着重要的影响,学习参数经优化后可大幅缩短网络收敛迭代次数和训练时间,并提高网络分类准确率。
引用
收藏
页码:226 / 232
页数:7
相关论文
共 6 条
[1]
基于遗传算法优化BP神经网络的瓦斯浓度预测研究 [J].
刘奕君 ;
赵强 ;
郝文利 .
矿业安全与环保, 2015, (02) :56-60
[2]
基于随机参数调整的改进反向传播学习算法 [J].
贾立山 ;
谈至明 ;
王知 .
同济大学学报(自然科学版), 2011, 39 (05) :751-757
[3]
一种BP神经网络学习率的优化设计 [J].
刘幺和 ;
陈睿 ;
彭伟 ;
周蕾 .
湖北工业大学学报, 2007, (03) :1-3
[4]
神经网络权值和阈值的优化方法 [J].
侯祥林 ;
陈长征 ;
虞和济 ;
王铁光 ;
纪盛青 .
东北大学学报, 1999, (04) :447-450
[5]
ACCELERATING THE CONVERGENCE OF THE BACK-PROPAGATION METHOD [J].
VOGL, TP ;
MANGIS, JK ;
RIGLER, AK ;
ZINK, WT ;
ALKON, DL .
BIOLOGICAL CYBERNETICS, 1988, 59 (4-5) :257-263
[6]
MATLAB神经网络30个案例分析.[M].MATLAB中文论坛; 编著.北京航空航天大学出版社.2010,