自适应RBF-LBF串联神经网络结构与参数优化方法

被引:3
作者
高大启
机构
[1] 华东理工大学计算机科学与工程系
关键词
径基函数; 线性基本函数; 神经网络; 模式分类;
D O I
暂无
中图分类号
TP183 [人工神经网络与计算];
学科分类号
摘要
研究了前向单层径基函数 (RBF)网络和前向单层线性基本函数 (LBF)网络的分类机理 ,提出了RBF的中心和宽度应通过学习自动确定 ,在学习过程中根据错分样本被错分入的类别自动生成新的核函数这一观点 .如果两个或两个以上核函数属于同一类 ,在输入空间相距较近且未被其它类别的样本分隔开来的情况下 ,则应考虑将之合并 ,或者使它们的作用区域部分重叠 .从理论上阐明了采用Sigmoid活化函数的单层感知器的分类阈值为0 .5 ,进而提出了由单层RBF网络和单层感知器组成的串联RBF LBF神经网络 .文中详细给出了确定该串联RBF LBF神经网络结构、核函数个数、位置与宽度的优化算法 .一般来说 ,该算法的计算复杂性比前向单隐层感知器采用的误差反传算法要小或至少相当 .对几个经典的模式分类难题的处理结果表明 ,与一般RBF网络和前向单隐层感知器网络相比 ,该串联RBF LBF网络及其自适应学习算法具有收敛速度快 ,分类精度高 ,易于得到最小结构 ,在学习过程中不易陷入局部极小点等优点 ,有利于实现实时分析 .实验结果同时也验证了单层LBF网络对提高RBF LBF网络分类正确率的重要性 .
引用
收藏
页码:575 / 586
页数:12
相关论文
共 39 条
  • [1] Performance evaluation of a sequential minimal radial basis function (RBF) network learning algorithm. Lu Y,Sundarajan N,Saratchandran P. IEEE Transactions on Neural Networks . 1998
  • [2] UCIrepositoryofmachinelearningdatabas es. MurogaS,AhaDW. ftp://ftp.ics.uci.edu/ pub/mechine learning databasesorhttp://www.ics.uci.edu/-mlearn . 1995
  • [3] Learningtotelltwospiralsapart. LangKJ,WitbrockMJ. ProceedingsofConnect.ModelSummerSchool . 1989
  • [4] The layer-wise method and the backpropagation hybrid approach to learning a feedforward neural network. Rubanov N S. IEEE Transactions on Neural Networks . 2000
  • [5] Estimation of elliptical basis function parameters by the EM algorithm with application to speaker verification. Mak M W,Kung S Y. IEEE Transactions on Neural Networks . 2000
  • [6] A machine learning method for generation of a neural network architecture: a continuous ID3 algorithm. Cios K J,Liu N. IEEE Transactions on Neural Networks . 1992
  • [7] Connectivity and performance tradeoffs in the cascade correlation learning structure. Phatak D S,Koren I. IEEE Transactions on Neural Networks . 1994
  • [8] Comparing support vector machines with Gaussian kernels to radial basis function classifiers. Scholkopf B,Sung K K,Burges C J C et al. IEEE Transactions on Signal Processing . 1997
  • [9] Universal approximation using radial basis function networks. Park J,Sandberg I W. Neural Computation . 1991
  • [10] Fast learning in networks of locally-tuned processing unit. Moody J E,Darken C J. Neural Computation . 1989