基于KNN和RVM的分类方法——KNN-RVM分类器

被引:19
作者
张磊
刘建伟
罗雄麟
机构
[1] 中国石油大学自动化研究所
关键词
相关向量机(RVM); K近邻(KNN); 临界滑动阈值; 分类; 核参数;
D O I
10.16451/j.cnki.issn1003-6059.2010.03.018
中图分类号
TP181 [自动推理、机器学习];
学科分类号
摘要
针对相关向量机(RVM)算法分类精度低、核参数选择困难等问题,文中提出临界滑动阈值的概念并以其为基础将RVM与K近邻(KNN)算法结合构建分类器——KNN-RVM分类器.从理论上提出并证明KNN-RVM分类过程等价于带软间隔约束的支持向量机的分类过程、KNN-RVM分类器等价于每类只选一个代表点的1-NN分类器、KNN-RVM分类效果优于RVM这3个结论.对这3个不同数据集进行实验证明临界滑动阈值的临界性与滑动性及KNN-RVM分类器的准确性、适应性及全局最优性,提高分类精度,减轻算法对核参数的依赖性,进而证明KNN-RVM分类器是一种有效的分类器.
引用
收藏
页码:376 / 384
页数:9
相关论文
共 2 条
  • [1] SVM-KNN分类器——一种提高SVM分类精度的新方法
    李蓉
    叶世伟
    史忠植
    [J]. 电子学报, 2002, (05) : 745 - 748
  • [2] An adaptive k -nearest neighbor text categorization strategy[J] . Li Baoli,Lu Qin,Yu Shiwen.ACM Transactions on Asian Language Information Processing (TALIP) . 2004 (4)