Datasets:
LittleCxwx
/
paper_data

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
18.7k
第八届泰迪杯数据挖掘挑战赛
(3) 及-近邻
玉最近邻【k-Nearest Neighbor，KNN) 分类算法，是一个理论上比较成熟
的方法,也是最简单的机器学习算法之一。该方法的思路是, 在特征空间中，如
果一个样本附近的天个最近〈即特征空间中最邻近) 样本的大多数属于其一个类
别，则该样本也属于这个类别。
如图 5 所示,， 有两类不同的样本数据, 分别用蓝色的小正方形和红色的小三
角形表示，而图正中间的那个绿色的圆所标示的数据则是待分类的数据。
二 和
画 后生生 芝= 生
@。:盏
蕊 6
图$ 待分类小球
现在我们不知道中间那个绿色的数据是从属于哪一类(蓝色小正方形或者红
色小三角形) ，我们就要解决这个问题就是给这个绿色的圆分类。
大近邻算法使用的模型实际上对应于对特征空间的划分。大值的选择，距离
度量和分类决策规则是该算法的三个基本要素，
大值的选择会对算法的结果产生重大影响。大值较小意味着只有与输入实例
较近的训练实例才会对预测结果起作用，但容易发生过拟合，如果 天值较大，
优点是可以碱少学习的估计误差, 但缺点是学习的近似误差增大,这时与输入实
例较远的训练实例也会对预测起作用，使预测发生错误。
在实际应用中, 大值一般选择一个较小的数值，通常采用交叉验证的方法来
选择最优的天值。随着训练实例数目趋向于无穷和天=1时，误差率不会超过贝叶
斯误差率的 2 佑，如果大也趋同于无穷，则误差率趋向于贝叶斯误差率。
该算法中的分类决策规则往往是多数表决, 即由输入实例的天个最临近的训
练实例中的多数类决定输入实例的类别
距离度量一般采用 ZP 距离，当= 2时，即为欧氏距离。在度量之前，应
该将每个属性的值规范化, 这样有助于防止具有较大初始值域的属性比具有较小
8
第八届泰迪杯数据挖掘挑战赛
初始值域的属性的权重过大。
(4) 线性回归
分类与回归树是分类数据挖掘算法的一种。它描述给定预测向量值 X 后，
变量立条件分布的一个灵活的方法。
该模型使用了二叉树将预测空间递归划分为若干子集, Y 在这些子集的分布
是连续均匀的。树中的叶节点对应着划分的不同区域, 划分是由与每个内部节点
相关的分支规则确定的。通过从树根到叶节点移动, 一个预测样本被赋子个唯一
的叶节点，立在该节点上的条件分布也被确定。
《5) 支持向量机
支持向量机〈spport vetor machine，SVM) 是统计机器学习领域富有盛名的
分类算法。它的两个核心思想是
全寻找具有最大类间距离的决策面;
名通过核函数在低维空间计算并构建分类面, 将低维不可分问题转化为高维
可分问题。线性回归是利用成为线性回归方程的最小二乘函数对一个或多个自变
量和因变量之间关系进行建模的一种回归分析。
(6) 高斯贝叶斯
贝叶斯模型属于生成式模型, 它对样本的观测和类别状态的联合分布 PCc.切
进行建模。在实际应用中，联合分布转换为类别的先验分布 pCy)与类条件分布
PCc|切乘积的形式，P(CcI人=P(O)p(CzlD) 。
前者可以分别使用伯努力分布和类别分布建模两类和多类分类的类别先验
概率，但类条件分布 p(z| 2)的估计问题是贝叶斯模型的难题。
朴素贝叶斯模型是一种简化的贝叶斯分类器, 进行建模时利用观测向量x和类别
2 的联合分布，
PGc切=P()PCC|I7
第八届泰迪杯数据挖掘挑战赛
2.5 算法评估
以上六种分类方式中，从准确率来看，准确率从高到低依次为， 逻辑回归、
支持向量机、玉近邻、回归树、高斯贝叶斯、线性判别分析。
逻辑回归和支持向量机的准确率很可观, 在 90%4左右徘徊; 及近邻的准确率
在 80%6-85%之间，略逊色于前两个，但是总体来看，用这种方法达到的效果是
良好的。另外三个准确率比较低, 而且线性判别的准确率相当不稳定, 起伏过大，
本题不宜使用。
准确市
图 6 准确率
从时间复杂度来看，高斯贝叶斯运行时间最短; 其次是逻辑回归; 然后是
近邻、回归树、高斯贝叶斯、绪性判别分析，这四类算法运行速度相近;最慢的
是支持向量机。虽然支持同量机和逻辑回归的准确率不相上下, 但是就运行速度
来看,逻辑回归的远比支持向量机快，所以本例题中,逻辑回归是最适合用的模
型。
2.6 分类结果对比