共 6 条
提高BP网络训练速度的研究
被引:20
作者:
孙佰清
潘启树
冯英浚
张长胜
机构:
[1] 哈尔滨工业大学管理学院
[2] 哈尔滨工业大学数学系 黑龙江哈尔滨
[3] 黑龙江哈尔滨
来源:
关键词:
神经网络;
BP算法;
收敛性;
单参数动态搜索算法;
D O I:
暂无
中图分类号:
TP183 [人工神经网络与计算];
学科分类号:
081104 ;
0812 ;
0835 ;
1405 ;
摘要:
由于误差函数的高维复杂性 ,BP网络在目前的应用中存在训练速度慢甚至导致网络系统瘫痪的问题 ,针对训练中的归一化问题、隐层节点数的选取、样本数目的增减法、整体学习率的确定及训练算法进行了研究 .结果表明 :训练样本数据不必一定归一化到 [0 ,1],可以通过简单的线性变换将数据转化到某个区间 ,使数据分布合理 ,以满足训练需要 ;根据经验公式 ,确定隐层节点数的初值 ,选取规模略大一点的网络开始训练 ;网络应对学习过的样本加强记忆 ,更应注意剔除错误样本 ;引入黄金分割法的思想来调整学习率的步长 ,效果理想 ;采用单参数动态搜索算法作为学习算法 ,能尽快达到训练要求的精度 .
引用
收藏
页码:439 / 441
页数:3
相关论文