数据归约的统计方法研究及应用

数据归约是数据挖掘过程的关键环节,因此对数据归约技术的研究具有重要的意义。当前已有的数据归约方法多偏重于有监督学习,而无监督情形下归约方法的研究还相对不够丰富。鉴于这种情况,本论文的重点内容是尝试对无监督数据归约的统计方法及其应用进行研究。 在本论文第一章中,首先阐述了选题的研究背景和研究意义。之后,在概述相关背景知识和总结国内外数据归约研究方法现状的基础上,明确了本论文的研究内容及创新之处。 数据归约两项重要的基础工作--缺失值填补和异常值探测是第二章探讨的内容。在本章,根据对统计学中常用的各种缺失值填补和异常值探测方法的分析,总结出了一些适合数据挖掘使用的方法。此外,通过将几种异常值探测方法应用在某地区移动通讯用户缴费数据库上,对手机用户的消费行为进行了实证分析。 数据归约包括元组的归约和属性的归约。本文在第三章探讨了元组归约的两种主要方法--连续属性离散化和概念分层。在对当前的离散化方法和概念分层中面向属性归纳方法综述的基础上,提出了两种从独立性角度考虑的连续属性离散化方法,分别是基于可辨识矩阵的离散化方法和基于似然比假设检验的离散化方法。并通过在Iris样本集上对这两种方法进行模拟,验证了它们的有效性。 属性重要性排序以及属性的提取和属性子集的选择是属性归约的两类方法。本文在第四章探讨了属性重要性的排序问题。数据挖掘中目前常见的排序问题是有监督属性的排序,本章首先对它们作了介绍和比较。然后在无监督属性重要性的排序方面,提出了单向有序列联资料的属性排序方法-改进秩和法和基于因子分析的无监督属性排序方法,这两种方法分别在一份调查问卷的列联资料和全国居民人均消费支出样本集的模拟中,取得了较为满意的结果。 第五章探讨的是属性的提取和属性子集的选择问题。首先对目前在数据挖掘中用于属性线性提取的几种统计学和其他学科的方法作了介绍和评价。然后是本章的重点内容-属性子集的选择,在对属性子集选择的基本知识及目前已有的研究成果详细阐述和分析之后,提出了逐步向前的无监督属性选择方法,并通过实例验证了该方法的有效性。 第六章对全文的主要工作进行了总结,并指出了有待进一步改进和完善的地方。 本文的创新之处主要有以下四个方面: (1)提出了分别基于可辨识矩阵和基于似然比假设检验的两种连续属性离散化方法。 (2)提出了单向有序列联资料属性排序的方法--改进秩和法。 (3)提出了基于因子分析的无监督属性重要性的排序方法。 (4)提出了逐步向前的无监督属性选择方法。