提高BP网络训练速度的研究

被引:20
作者
孙佰清
潘启树
冯英浚
张长胜
机构
[1] 哈尔滨工业大学管理学院
[2] 哈尔滨工业大学数学系 黑龙江哈尔滨
[3] 黑龙江哈尔滨
关键词
神经网络; BP算法; 收敛性; 单参数动态搜索算法;
D O I
暂无
中图分类号
TP183 [人工神经网络与计算];
学科分类号
081104 ; 0812 ; 0835 ; 1405 ;
摘要
由于误差函数的高维复杂性 ,BP网络在目前的应用中存在训练速度慢甚至导致网络系统瘫痪的问题 ,针对训练中的归一化问题、隐层节点数的选取、样本数目的增减法、整体学习率的确定及训练算法进行了研究 .结果表明 :训练样本数据不必一定归一化到 [0 ,1],可以通过简单的线性变换将数据转化到某个区间 ,使数据分布合理 ,以满足训练需要 ;根据经验公式 ,确定隐层节点数的初值 ,选取规模略大一点的网络开始训练 ;网络应对学习过的样本加强记忆 ,更应注意剔除错误样本 ;引入黄金分割法的思想来调整学习率的步长 ,效果理想 ;采用单参数动态搜索算法作为学习算法 ,能尽快达到训练要求的精度 .
引用
收藏
页码:439 / 441
页数:3
相关论文
共 6 条
[1]   BP网络瘫痪的原因分析 [J].
冯英浚 ;
张少仲 ;
王雪峰 ;
温健海 .
哈尔滨工业大学学报, 2000, (05) :81-83
[2]   前馈网络的一种超线性收敛BP学习算法 [J].
梁久祯 ;
何新贵 ;
黄德双 .
软件学报, 2000, (08) :1094-1096
[3]   BP网络的SPDS训练算法的鲁棒性 [J].
张少仲 ;
冯英浚 .
哈尔滨工业大学学报, 2000, (02) :60-61+64
[4]   有教师的线性基本函数前向三层神经网络结构研究 [J].
高大启 .
计算机学报, 1998, (01) :80-86
[5]   用于 BP 网络的样本添加法 [J].
张晓明 ;
孙宝元 .
大连理工大学学报, 1997, (05) :74-77
[6]   多层神经网络的一种新的学习算法 [J].
王雪峰,冯英浚 .
哈尔滨工业大学学报, 1997, (02) :23-25