特征提取的核方法与非线性多核学习的研究

核方法是大家公认的非常有效的处理非线性数据的强大的工具。它实质上就是把数据映射到一个被称为特征空间的向量空间中,在数据项的属性空间映像中寻找线性关系。初始映射是由核函数隐式定义的,即不需要嵌入点的坐标,而只是用它们两两的内积。利用核函数可以直接从初始的数据项高效地计算两两的内积。核方法被广泛的应用于模式分类的各个步骤中。 模式分类中特征提取非常重要。在日益兴起的脑机接口领域,脑电信号的特征提取非常重要。因为脑电信号有着非线性的结构,所以我们把核方法运用到了脑电信号特征提取中。传统的脑电信号空间过滤方法都缺乏明显的目标函数而无法让人直观了解其价值,因此,我们首先提出了一个基于脑电信号协方差的带有目标函数的极能差方法。该方法的思想就是将能使不同类信号能量差达到最大的特征过滤出来。该极能差方法是线性的特征提取方法。 针对脑电信号存在非线性结构的特点,我们对极能差方法进行了非线性的扩展,由此得到了核极能差方法。核极能差方法的原理与极能差方法是一致的,只不过是在该方法中引入了核的技巧,将脑电信号嵌入到了特征空间中,然后通过核函数找出特征空间中脑电信号的线性结构。 分类器的设计也是模式分类中非常重要的一步,分类器设计的好坏直接影响到分类性能的好坏。支持向量机是目前公认的很有效的分类器。但是支持向量机有个很大的缺点就是它很大程度上依赖于参数的选择。然而在选择参数方面目前还没有理论依据。线性多核方法将多个核加权取平均然后求的最优的权值不失为一个很好的办法。但是线性多核中的核之间是线性的关系,它忽略了核间的相互作用。因此我们提出了克服这个缺点的基于非线性多核组合的支持向量机。我们利用核矩阵间的Hadmand积构造了体现不同核之间相互作用的新核,非线性性也就体现于此。然后我们对新生成的核与原始核集中的核采用传统的加权求和法提出了基于非线性核组合的支持向量机。各个核上的最优权值是通过将问题转化为半定规划问题求得的。