支持向量回归多参数的同时调节

被引：7

作者：

廖士中

丁立中

贾磊

机构：

[1] 天津大学计算机科学与技术学院

来源：

南京大学学报(自然科学版) | 2009年 / 45卷 / 05期

基金：

天津市自然科学基金;

关键词：

支持向量回归; 模型选择; 参数调节; 同时调节;

D O I：

暂无

中图分类号：

TP18 [人工智能理论];

学科分类号：

081104 ; 0812 ; 0835 ; 1405 ;

摘要：

参数调节问题是支持向量回归的基本问题.已有的参数调节方法主要采用内外双层优化框架,调节过程中,训练学习器与更新超参数交替进行.这种嵌套结构具有较高的计算复杂性.针对这一问题,提出了支持向量回归多参数的同时调节模型.首先,将Lagrange乘子、惩罚因子、不敏感度参数和核函数参数合并为一个参数向量,推导出支持向量回归问题的一个新的表示形式,可将原来分离的双层调节过程整合为一个单层调节过程.然后,应用贯序无约束极小化技术(SUMT),将支持向量回归问题转化为多元无约束优化问题.在此基础上,应用变尺度方法(VMM)设计、分析并实现了一个同时调节算法.最后,通过标准数据集上的实验,验证了同时调节算法的收敛性,并比较了同时调节算法与常用调节算法的有效性和计算效率.理论分析与实验结果表明,同时调节模型是一正确且有效的多参数调节模型.

引用

页码：585 / 592

页数：8

共 5 条

[1] 基于非参数回归模型的局部线性估计云量预报方法研究 [J].