自适应前馈神经网络结构优化设计

被引：8

作者：

张昭昭 ^{[1
,2
]}

乔俊飞 ^{[1
]}

杨刚 ^{[1
]}

机构：

[1] 北京工业大学电子信息与控制工程学院

[2] 辽宁工程技术大学电子与信息工程学院

来源：

智能系统学报 | 2011年 / 6卷 / 04期

基金：

北京市自然科学基金;

关键词：

前馈神经网络; 结构设计; 自适应搜索策略; 互信息;

D O I：

暂无

中图分类号：

TP183 [人工神经网络与计算];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

针对多数前馈神经网络结构设计算法采取贪婪搜索策略而易陷入局部最优结构的问题,提出一种自适应前馈神经网络结构设计算法.该算法在网络训练过程中采取自适应寻优策略合并和分裂隐节点,达到设计最优神经网络结构的目的.在合并操作中,以互信息为准则对输出线性相关的隐节点进行合并;在分裂操作中,引入变异系数,有助于跳出局部最优网络结构.算法将合并和分裂操作之后的权值调整与网络对样本的学习过程结合,减少了网络对样本的学习次数,提高了网络的学习速度,增强了网络的泛化性能.非线性函数逼近结果表明,所提算法能得到更小的检测误差,最终网络结构紧凑.

引用

页码：312 / 317

页数：6

共 8 条

[1] 一种基于神经网络复杂度的修剪算法 [J].