梯度算法下RBF网的参数变化动态

被引：13

作者：

魏海坤

李奇

宋文忠

机构：

[1] 东南大学自动化学院

来源：

控制理论与应用 | 2007年 / 03期

关键词：

梯度算法; RBF网; 学习动态; 神经网络; 泛化能力;

D O I：

暂无

中图分类号：

TP183 [人工神经网络与计算];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

分析神经网络学习过程中各参数的变化动态,对理解网络的动力学行为,改进网络的结构和性能等具有积极意义.本文讨论了用梯度算法优化误差平方和损失函数时RBF网隐节点参数的变化动态,即算法收敛后各隐节点参数的可能取值.主要结论包括:如果算法收敛后损失函数不为零,则各隐节点将位于样本输入的加权聚类中心;如果损失函数为零,则网络中的冗余隐节点将出现萎缩、衰减、外移或重合现象.进一步的试验发现,对结构过大的RBF网,冗余隐节点的萎缩、外移、衰减和重合是频繁出现的现象.

引用

页码：356 / 360+365 +365

页数：6