神经网络二阶反向传播学习算法及其收敛性

被引：3

作者：

刘铁男

王利国

刘严崴

谢爱华

刘志德

机构：

[1] 大庆石油学院自动化与控制工程系

[2] 大庆石油管理局供电电器设备有限公司

[3] 大庆供电公司中心实验所

[4] 大庆石油学院自动化与控制工程系黑龙江安达

[5] 黑龙江大庆

[6] 黑龙江安达

来源：

大庆石油学院学报 | 2001年 / 04期

基金：

黑龙江省自然科学基金;

关键词：

全局收敛性; 多层前向网络; BP算法; 二阶学习算法; Newton算法;

D O I：

暂无

中图分类号：

TP183 [人工神经网络与计算];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

针对BP算法收敛速度慢的问题 ,提出了多层前向神经网络的新型二阶递推学习算法 .给出了一种新的矩阵求逆引理 ,从Newton迭代法入手 ,推导出新型递推学习算法 .该算法等价于Newton迭代法并且有二阶收敛速度 ,能同时反向传播网络各层误差和二阶导数信息因子 ,还能实现Newton搜索方向和Hessian阵逆的递推运算 .基于微分方程稳定性理论 ,研究了新算法的全局收敛性 .分析表明 ,新算法优于BP算法并且具有全局收敛性

引用

页码：38 / 41+106 +106-107

页数：6

共 5 条

[1] 遗传算法的收敛性分析 [J].

刘铁男 ;

姜建国 ;

陈继刚 ;

张长江 ;

于镝 .

大庆石油学院学报, 2000, (03) :40-42+105

[2] 油藏系统辨识的人工神经网络方法和应用 [J].

陈广义 ;

刘铁男 ;

刘延力 ;

徐宝昌 .

石油学报, 1999, (06) :53-56+107

[3] 模拟生物种族形成的进化算法与多峰函数优化 [J].

刘铁男 ;

陈广义 ;

刘延力 ;

徐宝昌 .

控制与决策, 1999, (02) :89-92

[4]

神经元网络控制.[M].王永骥;涂健编著;.机械工业出版社.1998,

[5]

最优化计算方法.[M].席少霖;赵凤治编著.上海科学技术出版社.1983,

← 1 →