Datasets:
LittleCxwx
/
paper_data

Dataset card Data Studio Files
xet
 Community
1
text
stringlengths
0
18.7k
目录
间题重迹 sseaaekasasganaaahoErnEEEHnEEEEEEEn 1
二、 群众留言分类
2.1 第一题思维导图
交捉预不天了二Sa OU
全本RE 3
32 去伴用间asaessmasaaaeaasaasasaaeaaaaaaREEEEEd 4
文本朋呈化54
区林分红 6
5项法评估 seemaaapaaasaaaa 让na位全 10
2在力类结果对此-sseagapaaeapggaagkapeppoanapaE9 ER
2.6.1 混汐矩阵
2.6.2 混淆矩阵标准化
2.6.3 F-score 评分 12
三 乓训回题按乒-…rreeerereererrrreerrrrrrercarrrtrrneraerereeesrrrettrrreraeraecerneesactoorrros 13
3.1 第二题思维导图 13
9区本村类-eeaasaaaaaaaasaaaaaaaaaaaeaaaagasaaeaaaaaasaaaeaecaaeae 13
3苏确定评估规则-ssssreessagsasssaaaearaaeaaaaaagapaipapaasaaaaamsesi 17
各取状南问题二
、 答复意见的评价
第三是思维导国ssessaseEaoE ER
天胃 |作aaa EEC 19
到阅本大斯其距商aaaussaaaaaasaaiaessaaiaaseEEEER 和 19
2 这路相似魔.asasmaaaaaassauaaaaassssaaaauaaaaaisaaaamaaaiaaiasaaaaaaaammaaaaaa 20
4.3 可解释性二aa 21
业3 目定义可解程性,ssassasaaasaaaiasaaaaaseasasaeseso二可 21
43.2回复的可解释性程度 21
44 完整性
4.4.1 自定义完整性
第八届泰迪杯数据挖掘挑战赛
4 回起的完整性程麻。。weeeeeeaeseereaeaaaeaeaeaeaeeasaesaaaaamaaas22
本或疆冲|滑作ES王
下 ,总续二LE SEE 23
espaesmaaeaasiaaaaaganaRREEELEEEE24
二献wma25
第八届泰迪杯数据挖掘挑战赛
一、问题重述
近年来，随着微信、微博、市长信箱、阳光热线等网络问政平台逐步成为政
府了解民意、汇聚民智、赣聚民气的重要渠道，各类社情民意相关的文本数据量
不断沟升, 给以往主要依靠人工来进行留言划分和热点整理的相关部门的工作带
来了极大挑战。
赛题希望答者对收集自互联网公开来源的群众问政留言记录, 及相关部门对
部分群众留言的答复意见，利用自然语言处理 (NLP) 和文本挖掘的方法解决下
面的问题。
(1) 群众留言分类: 在处理网络问政平台的群众留言时，工作人员首先按
照一定的划分体系(参考附件 1 提供的内容分类三级标签体系)对留言进行分类，
但存在工作量大、效率低，且差错率高等问题，请根据附件 2 给出的数据，建立
关于留言内容的一级标签分类模型。
并利用 F-score 对分类方法进行评分
5
五 =一 二
本 厂冯RAR
其中为第;类的查准率，有为第;类的查全率。
《2) 热点问题控据: 某一时段内群众集中反映的某一问题可称为热点问
页。及时发现热点问题，有助于相关部门进行有针对性地处理，提升服务效率。
赛题要求根据附件 3 将某一时段内反映特定地点或特定人群问题的留言进行归
类，定义合理的热度评价指标，并给出评价结果，按一定的格式给出排名前5
的热点问题。
(3) 答复意见的评价: 针对附件 4 相关部门对留言的管复意见，从答复的
相关性、完整性、可解释性等角度对管复意见的质量给出一套评价方案,并尝试
实现。
针对问题一,我们要考虑长文本是否存在无意义的表达, 是否需要转为短文
本，要考虑数据不平衡带来的影响，要考虑文本语义带来的词语交叉。
我们使用计算机程序语言 Python 对导入的表格数据做预处理，预处理之后
使用词频-逆文件频率〈TF-IDF) 这种统计方法对文本文档进行向量化，取特征
1
第八届泰迪杯数据挖掘挑战赛
值, 调用 Scikit-leam (skleam ) 中的逻辑回归模型 (LR) 、线性判别分析 (LDA)、
及近邻 (KNN) 、回归树〈CART) 、支持同量机〔SVM) 、高斯贝叶斯 (NB)
对文本进行分类，并通过比较这六种不同的分类结果，建立准确率较高的模型。
针对问题二, 我们要找出某一时段内群众集中反映的某一问题,要做问题识
别、问题归类、热度评价。核心的做法是文本聚类，按照统计频率的大小排序。
做文本聚类时，我们使用了 K-means 聚类算法、DBSCAN聚类算法对文本进行