核机器学习方法若干问题研究

论文主要对机器学习问题、核机器方法、小波核机器、模糊小波核机器等内容进行探讨和分析,构建了几种核机器模型,理论分析和实验结果验证了它们的可行性和有效性。主要研究内容如下: 处理大规模样本时,支持向量机难以满足实时性要求,针对这一问题,提出了一种支持向量预提取方法:先用核感知机模块提取准支持向量,然后将所得结果输入到支持向量机中进行二次处理。核感知机采用的是简单的迭代结构,即使在样本规模较大时,花费的时间也很少;此外,准支持向量的数目可以通过设定阈值进行控制。在一定精度要求下,能从很大程度上提高数据的处理效率。由于核函数和误分界的引入,在综合使用支持向量机的基础上,能处理线性可分、非线性可分、非线性不可分带噪声数据以及回归等问题,理论分析和实验结果较好地验证了这一结论。 对非平稳信号进行处理时,信号细微特征的提取非常关键。论文尝试将小波技术、主分量分析及核方法相结合,用于处理这类信号。对采用小波基构建核函数的可行性进行了探讨,证明了它满足Mercy条件及其在Hilbert空间具有再生性的命题,以此为基础,结合主分量分析,探讨了小波核机器的构建方法,构造出一种核机器模型,并作了实例仿真。实验结果表明,复Gaussian小波核和复Morlet小波核的性能大致相当,它们都优于常规的高斯核和多项式核,初步展示出该方法的可行性和优越性。 对模糊逻辑和小波技术的相关理论进行探讨和分析,构建了一种模糊小波容许核函数,并与支持向量机结合,构造出一种核机器模型,对该模型的一致逼近性作了证明。在此基础上,提出了一种模糊小波支持向量核机器方法FW-SVKM,对参数的选择与预测结果的内在关系作了较为详细的分析,与三层神经网络ANN进行短期峰值负荷预测的对比实验,结果表明FW-SVKM优于ANN,具有较大的实用价值和较好的应用前景。 针对学习机器在参数较多时,优化时间过长、效率过低,不利于工程应用的问题,提出了一种多参数同步优化策略。实验结果表明,该方法在实际应用中是行之有效的,能大幅减少多参数模型的优化时间,增强核机器方法的实用性和有效性。