共 3 条
神经网络的两种结构优化算法研究
被引：10
作者：
杨慧中
王伟娜
丁锋
机构：
[1] 江南大学控制科学与工程研究中心
来源：
关键词：
神经网络结构优化;
剪枝算法;
权值拟熵;
权值敏感度;
快速构造算法;
泛化性能;
D O I：
10.13976/j.cnki.xk.2006.06.006
中图分类号：
TP183 [人工神经网络与计算];
学科分类号：
摘要：
提出了一种基于权值拟熵的“剪枝算法”与权值敏感度相结合的新方法,在“剪枝算法”中将权值拟熵作为惩罚项加入目标函数中,使多层前向神经网络在学习过程中自动约束权值分布,并以权值敏感度作为简化标准,避免了单纯依赖权值大小剪枝的随机性.同时,又针对剪枝算法在优化多输入多输出网络过程中计算量大、效率不高的问题,提出了一种在级联—相关(cascade-correlation,CC)算法的基础上从适当的网络结构开始对网络进行构建的快速“构造算法”.仿真结果表明这种快速构造算法在收敛速度、运行效率乃至泛化性能上都更胜一筹.*
引用
收藏
页码：700 / 704+710
+710
页数：6
相关论文