基于奇异值分解的神经网络结构优化设计及其应用

包括BP网络和RBF网络在内的前馈网络是应用最为广泛和成功的神经网络,其泛化能力是最为重要的网络性能之一。研究发现,BP和RBF网络的泛化能力在很大程度上取决于网络是不是具有合理的复杂度,即适当的隐层节点数量。因此,本文基于奇异值分解理论,提出了BP和RBF网络的结构优化设计方法。其基本思路均是利用奇异值分解理论分析已完成训练的网络隐层输出矩阵,根据贡献率的原则删除对网络贡献较小的节点,获得适当的网络规模,提高泛化能力。但是,根据两种网络的不同特性,优化策略在具体步骤和方式上稍有差别。本文将优化后的网络用于热工系统建模中,取得了良好的建模效果。仿真实验表明优化后的网络改善了泛化能力,提高了模型精度,证明了基于奇异值分解的结构优化策略的有效性。