text
stringlengths 0
18.7k
|
|---|
一@一还辑回归
|
05]|i 一一 线性判别
|
10E-score
|
12
|
第八届泰迪杯数据挖掘挑战赛
|
三、热点问题挖掘
|
3.1 第二是思维导图
|
第二题思维导图
|
数据预处理 文本向量化 | 文本聚类 热点问题
|
K-means聚类 定义提取规则
|
DBSCAN肾类
|
11 第二题思维导几
|
3.2 文本聚类
|
第二题的数据预处理与第一题相同,这里不乾述。
|
3.2.1 K-means 聚类算法
|
(1) 概念: 久-means 算法是最为经典的基于划分的聚类方法,是十大经典
|
数据挖掘算法之一。K-means 算法的思想很简单,对于给定的样本集,按照样本
|
之间的距敲太小, 将样本集划分为天个簇。让签内的点尽量紧密的连在一起,而
|
让签间的距离尽量的大。
|
用数据表达式表示,假设禾划分为,
|
(人
|
找簇c;的均值向量x* 〈也称为质心) :
|
1
|
2一 所 汪 攻
|
我们的目标是最小化平方误差e,
|
13
|
第八届泰迪杯数据挖掘挑战赛
|
友 2
|
2-立Zx-则|
|
(2) 算法描述:
|
台适当选择 天个雍的初始质心;
|
加在第大次选代中,对任意一个样本,求其到<个质心的欧氏距离或曼哈顿
|
距离,将该样本归类到距离最小的质心所在的往,
|
句利用均值等方法更新该往的质心值;
|
外对于所有的<个往质心, 如果利用@@@@的迭代法更新后,当质心更新稳定
|
或误差《误差平方和即繁内所有点到质心的距离之和) 平方和最小时,,则迁代结
|
东,否则继续进代。
|
《3) 聚类结果
|
12 玫-means 聚类结果获点图
|
在本题中,由于大值难以精确计算得出,根据附件 1 给出的标签类别,将天
|
取值为 100,图 12 显示取得了较好的聚类效果,但是,聚类结果不是将同一地
|
点的内容聚类,无法达到我们想要的效果。
|
3.2.2 DBSCAN 聚类算法
|
(1) 概念: DBSCAN 是基于密度空间的聚类算法,在机器学习和数据挖掘
|
领域有广泛的应用, 其聚类原理通俗点讲是每个签类的密度高于该得类周围的密
|
度,噪声的密度小于任一繁类的密度。繁类 A、B、cC 的密度大于周围的密度,
|
14
|
第八届泰迪杯数据挖掘挑战赛
|
噪声的密度低于任一往类的密度,因此 DBSCAN 算法也能用于异常点检测,如
|
图 13,
|
13 DBSCAN 算法示意图
|
DBSCAN密度定义: DBSCAN 是基于一组邻域来描述样本集的紧密程度的,参
|
数(emin pk)用来描述邻域的样本分布紧密程度。其中,= 描述了某一样本的邻
|
域距离装值,min pz描述了某一样本的距离为 =的邻域中样本个数的半值。
|
(2) 算法描述: 首先给定数据集忆中所有对象都被标记为"anvisited ,
|
DBSCAN 随机选择一个未访问的对象 ,标记为"visited ,并检查的=-领域
|
是否至少包含min zz个对象。如果不是,则被标记为噪声点。否则为了创建
|
一个新的簇C,并且把>的 <-领域中所有对象都放在候选集合 Y中。
|
DBSCAN 和迭代地把 w 中不属于其他签的对象添加到 C中。在此过程中,对
|
Subsets and Splits
No community queries yet
The top public SQL queries from the community will appear here once available.