基于流形正则化的在线半监督极限学习机

被引：6

作者：

王萍

王迪

冯伟

机构：

[1] 不详

[2] 天津大学电气与自动化工程学院

[3] 不详

来源：

上海交通大学学报 | 2015年 / 08期

关键词：

极限学习机; 半监督学习; 在线学习; 流形正则化;

D O I：

10.16183/j.cnki.jsjtu.2015.08.012

中图分类号：

TP181 [自动推理、机器学习];

学科分类号：

摘要：

在基于流形正则化的半监督极限学习机(SS-ELM)的基础上,利用分块矩阵的运算法则,提出了在线半监督极限学习机(OSS-ELM)方法.为避免在实时学习的过程中由于数据累积引起的内存不足,通过对SS-ELM的目标函数的流形正则项的近似,给出了OSS-ELM的近似算法OSSELM(buffer).在Abalone数据集上的实验显示,OSS-ELM(buffer)在线学习的累计时间与所处理的样本个数呈线性关系,同时,9个公共数据集上的实验表明,OSS-ELM(buffer)的泛化能力与SS-ELM的泛化能力的相对偏差在1%以下.这些实验结果说明,OSS-ELM(buffer)不仅解决了内存问题,还在基本保持SS-ELM泛化能力的基础上大幅度提高了在线学习速度,可以有效应用于在线半监督学习当中.

引用

页码：1153 / 1158+1167 +1167

页数：7

共 12 条

[1] Online manifold regularization:A new learning setting and empirical study. Goldberg A B,Li M,Zhu X. Machine Learning and Knowledge Discovery in Databases . 2008
[2] Extreme learning machines: A survey. Huang, Guang-Bin,Wang, Dian Hui,Lan, Yuan. International Journal of Machine Learning and Cybernetics . 2011
[3] Extreme learning machine: Theory and applications[J] . Guang-Bin Huang,Qin-Yu Zhu,Chee-Kheong Siew. &nbspNeurocomputing . 2006 (1)
[4] Extreme learning machine:a new learning scheme of feedforward neural networks. Huang G B,Zhu Q Y,Siew C K. Neural Networks,2004. Proceedings.2004 IEEE International Joint Conference on . 2004
[5] Semi-supervised and unsupervised extreme learning machines. Huang G,Song S,Gupta J N D,Wu C. IEEE Transactions on Systems Man and Cybernetics . 2014
[6] Semi-supervised learning. Chapelle O,Schlkopf B,Zien A. . 2006
[7] 局域极端学习机及其在状态在线监测中的应用
张弦
王宏力
[J]. 上海交通大学学报, 2011, (02) : 236 - 240
[8] An Insight into Extreme Learning Machines: Random Neurons, Random Features and Kernels[J] . Guang-Bin Huang. &nbspCognitive Computation . 2014 (3)
[9] 基于多核集成的在线半监督学习方法
黎铭
周志华
[J]. 计算机研究与发展, 2008, (12) : 2060 - 2068
[10] Online Manifold Regularization by Dual Ascending Procedure[J] . Boliang Sun,Guohui Li,Li Jia,Hui Zhang,Zheng-Guang Wu. <journal-title>Mathematical Problems in Engineering . 2013

← 1 2 →