BP算法固定学习率不收敛原因分析及对策

被引：17

作者：

杨安华

彭清娥

刘光中

机构：

[1] 四川大学工商管理学院

[2] 四川大学高速水力学国家重点实验室

来源：

系统工程理论与实践 | 2002年 / 12期

关键词：

人工神经网络; 模型; BP算法; 学习速率; 发散;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

人工神经网络BP模型是一种常用的建模方法,但仍存在很多问题.通过对BP算法的应用发现,当固定学习率η大于0～1内某一值,将导致网络算法不收敛.本文从数学理论上分析了这一现象产生的内在原因.最后提出两种有效对策:方法是第一次η取小值,随后取较大值,最后取小值;方法二是调整传递函数f(x).通过这两种方法,解决了固定学习率不收敛的问题,并对改进方法进行了实证检验.

引用

页码：22 / 25

页数：4