基于多分类器动态组合的手写体数字识别

多分类器组合的目的是希望能够充分发挥每个分类器在各自分类性能上的长处，以获得比任何单独分类器都要高的识别率。多分类器组合利用不同分类器、不同特征之间的互补性，提高了组合后分类器的识别率。传统的组合方法里，各分类器在组合中所承担的角色是固定的，而实际应用中，对于不同的测试样本，每个分类器判断结果的可信度是不同的。一种组合方式对于某些样本是提高了识别率，而对于其它样本则可能起到相反的作用。为实现组合分类器的最佳性能，就需要根据不同的测试样本采用不同的分类器组合结构，实现动态组合。 本文实现了基于分类器判决可靠度估计的最优线性集成方法。此方法提出了用于衡量分类器对单个样本识别性能的判决可靠度，在训练阶段根据各分类器的判决可靠度把训练样本分成不同的区域，从而可以在不同的区域里应用最优线性集成方法得出各区域的分类器组合权值。不同区域的样本所使用的组合权值是不同的，随着区域的细化，就更能体现出各分类器对于样本的性能差异。对于测试样本，同样计算出其各分类器的判决可靠度，得到测试样本所属的区域以及组合权值，就可以进行动态组合。与传统的最优线性集成方法相比，这种动态组合方法不再对所有的测试样本使用同一个权值，而是根据样本自身的特征使用最佳的组合方法。把这种方法应用到手写体数字识别中，识别正确率较静态最优线性集成方法有了显著的提高。 讨论过基于分类器判决可靠度估计的最优线性集成方法之后，本文对分类器置信度理论进行了进一步的研究，并提出各类别置信度的概念。样本的各类别置信度反映了分类器把样本分为不同类别的可信度。根据置信度的定义，对于不同的分类器，其置信度的度量是统一的，因此各分类器置信度之间具有可比性，我们就可以把这些各类别置信度直接用于分类器组合。与前一种方法相比，它的优点是简单、易懂，而且这种方法还可以在不影响已有数据的情况下添加新的分类器重新组合。把这种动态组合方法具体应用到手写体数字的识别中，实验结果同样证实了它的可行性。