基于核投影分析的特征抽取及应用研究

特征抽取是模式识别研究的最基本的问题之一。无论是人脸识别还是字符识别，抽取有效的鉴别特征是解决问题的关键。核投影分析，包括核主分量分析(KPCA)和核Fisher鉴别分析(KFDA)，是最近刚刚提出的非常有效的非线性特征抽取方法。该文一方面对核投影分析的内涵从理论上进行了补充，另一方面对核投影分析的有关算法进行了较为深入的研究，所提出的算法在人脸识别和字符识别方面得到了较成功的应用。 Foley-Sammon线性鉴别分析(FSDA)是抽取线性特征的有效方法之一。在此基础上，该文借鉴核Fisher鉴别分析的实现思想，提出了一种核Foley-Sammon鉴别分析(核F-S鉴别分析，KFSDA)方法，首先建立KFSDA的两个等价模型，并分析这两个等价模型的解之间的关系，然后从理论上给出KFSDA模型的具体求解方法。分析表明，核Foley-Sammon鉴别分析保留了FSDA能明显降低样本特征之间冗余信息的优点，更重要的是该方法能够有效地抽取样本的非线性特征；另外，KFSDA是对FSDA的进一步拓展。在Concordia University CENPARMI手写体阿拉伯数字数据库上的实验结果验证了所提出方法的有效性。 该文利用核技术把广义最佳鉴别矢量集进行非线性推广，提出一个全新的概念—广义最佳核鉴别矢量集，建立广义最佳核鉴别矢量集的求解模型，从理论上给出广义最佳核鉴别矢量集的具体求解方法。分析表明：用广义最佳核鉴别矢量集所抽取的特征不仅在整体上具有最佳的可分性，而且具有非线性特性；另外，广义最佳核鉴别矢量集是对广义最佳鉴别矢量集的进一步拓展。将广义最佳核鉴别矢量集用于ORL人脸库的识别，识别错误数明显低于已有的方法。 核Fisher鉴别分析(KFDA)已成为抽取非线性特征的最有效方法之一。但是，无论训练样本的数目多少、维数高低，总面临一个奇异性问题，对此在现有的KFDA算法中还没有得到很好的解决。在该文中我们提出了一种最优的核Fisher鉴别分析(OKFDA)方法，从理论上巧妙地解决了奇异情况下最优核鉴别矢量集的求解问题。OKFDA基本思路为把最优核鉴别矢量分为两类，首先优先在核类内散布矩阵的零空间内选择使核类间散布量最大的一组标准正交的特征矢量，即为第一类最优核鉴别矢量，然后在核类内散布矩阵的非零空间内选择使核Fisher鉴别准则达到最大的一组标准的特征矢量，即为第二类最优核鉴别矢量，这样我们就得到了最优核鉴别矢量集，从而相应地抽取出原始样本的非线性最优鉴别特征(共两类)。在FERET人脸库的子库上的实验结果验证了OKFDA方法的有效性。 独立分量分析以其独特的性质在人脸识别中发挥着重要的作用。但是我们知 摘要 博十论文 道即便使用快速的ICA算法(FasilCA)来抽取人脸图象特征都存在着运算量大、 耗时多等问题，为此该文提出了一种新的人脸自动识别方法，首先采用核主分量 分析(KPCA)对原始的人脸图象进行降维，这样不仅突出了人脸图象的主分量 特征，而且考虑了包含图象象素间的非线性关系的高阶统计信息。然后利用 FastICA算法进一步抽取出更加有利于分类的面部特征的主要独立成分，以用来 后面的识别分类。在FERET人脸库的子库上实验结果表明，所提出的方法与基 于FastICA的方法相比识别性能略有提高，更为特出的是在识别速度上显示出很 大的优势。 关键词:模式识别，特征抽取，核技术，核主分量分析，核Fishe:鉴别分析，核 Foley一Sammon鉴别分析，广义最佳核鉴别矢量集，独立分量分析，FasilCA