text
stringlengths
0
18.7k
一@一还辑回归
05]|i 一一 线性判别
10E-score
12
第八届泰迪杯数据挖掘挑战赛
三、热点问题挖掘
3.1 第二是思维导图
第二题思维导图
数据预处理 文本向量化 | 文本聚类 热点问题
K-means聚类 定义提取规则
DBSCAN肾类
11 第二题思维导几
3.2 文本聚类
第二题的数据预处理与第一题相同,这里不乾述。
3.2.1 K-means 聚类算法
(1) 概念: 久-means 算法是最为经典的基于划分的聚类方法,是十大经典
数据挖掘算法之一。K-means 算法的思想很简单,对于给定的样本集,按照样本
之间的距敲太小, 将样本集划分为天个簇。让签内的点尽量紧密的连在一起,而
让签间的距离尽量的大。
用数据表达式表示,假设禾划分为,
(人
找簇c;的均值向量x* 〈也称为质心) :
1
2一 所 汪 攻
我们的目标是最小化平方误差e,
13
第八届泰迪杯数据挖掘挑战赛
友 2
2-立Zx-则|
(2) 算法描述:
台适当选择 天个雍的初始质心;
加在第大次选代中,对任意一个样本,求其到<个质心的欧氏距离或曼哈顿
距离,将该样本归类到距离最小的质心所在的往,
句利用均值等方法更新该往的质心值;
外对于所有的<个往质心, 如果利用@@@@的迭代法更新后,当质心更新稳定
或误差《误差平方和即繁内所有点到质心的距离之和) 平方和最小时,,则迁代结
东,否则继续进代。
《3) 聚类结果
12 玫-means 聚类结果获点图
在本题中,由于大值难以精确计算得出,根据附件 1 给出的标签类别,将天
取值为 100,图 12 显示取得了较好的聚类效果,但是,聚类结果不是将同一地
点的内容聚类,无法达到我们想要的效果。
3.2.2 DBSCAN 聚类算法
(1) 概念: DBSCAN 是基于密度空间的聚类算法,在机器学习和数据挖掘
领域有广泛的应用, 其聚类原理通俗点讲是每个签类的密度高于该得类周围的密
度,噪声的密度小于任一繁类的密度。繁类 A、B、cC 的密度大于周围的密度,
14
第八届泰迪杯数据挖掘挑战赛
噪声的密度低于任一往类的密度,因此 DBSCAN 算法也能用于异常点检测,如
图 13,
13 DBSCAN 算法示意图
DBSCAN密度定义: DBSCAN 是基于一组邻域来描述样本集的紧密程度的,参
数(emin pk)用来描述邻域的样本分布紧密程度。其中,= 描述了某一样本的邻
域距离装值,min pz描述了某一样本的距离为 =的邻域中样本个数的半值。
(2) 算法描述: 首先给定数据集忆中所有对象都被标记为"anvisited ,
DBSCAN 随机选择一个未访问的对象 ,标记为"visited ,并检查的=-领域
是否至少包含min zz个对象。如果不是,则被标记为噪声点。否则为了创建
一个新的簇C,并且把>的 <-领域中所有对象都放在候选集合 Y中。
DBSCAN 和迭代地把 w 中不属于其他签的对象添加到 C中。在此过程中,对