text
stringlengths
0
18.7k
w(i-1) SUM
w(D)
w(i+1l)
w(i+2)
图 7.C8oOwW 模型图
3.结果分析
3.1 问题 1 结果分析
3.1.1 分类分析
通过去重去空后对留言内容和留言详情进行分词,提取 29 个关键词作为特
征值, 利用朴素贝叶斯算法进行分类。其中使用 5 倍交叉验证法进行验证,取五
分之四为训练集,五分之一为测试集验证算法准确性。需要调整的参数如下:
1) 特征词提取
通过实验证明当特征词为 29 时, 算法在 F1 上表现最好, 因此特征词选用为 29,,
如 8 图所示:
帮 Figure 1 一 口 居
0 10 20 30 40 50 |
x=47.3206 。” y=0.678898
图 8.不同特征值数量对结果的影响
2) 拉普拉斯平滑参数
为避免出现 0 值导致算法不能较好的建模, 需要在分子以及分母上加入拉普
拉斯算子,经本实验整明当分子的拉普拉斯算子取为 0.3,分母取为 0.7 时,算
法效果达到最优,拉普拉斯平滑如下式 3.1 所示:
P(Dalc)j-=Zas(G.c+1 昌
Z5(C.9)+2 和
3) 留言主题与留言详情的加权系数
为避免伯努利模型忽略多次出现的关键词影响准确性,将留言详情和留言
主题分别计算后验概率,并且加权得到最终的后验概率,经本实验证明,当系数
为 1: 1 时算法效果达到最好。
3.1.2 分类结果
选定好参数之后,使用五倍交叉验证计算查准率查全率的平均值,以及Fl
的值,实验结果如表 1 所示:
建设、交通运输、环境保护类多数关键词一致,基于朴素贝叶斯的算法对于相似
词的分别能力较低, 导致正确率偏低, 城乡建设中多涉及环境保护和交通运输类,
建议相关部门对于这三类可以做好协调工作。该三类的词云图如图所示, 也可以
直观看出关键词相似度较高。
图 9词云图
3.2 问题 2 结果分析
3.2.1 分类分析
使用 LDA 主题模型,依然使用留言主题的 29 个关键词进行训练,得到不同
的主题,以及高频词。
1) 主题数量
在测试数据阶段,50 个文档,使用十个主题达到很好的效果,对于全部数据
达到 5000+文档, 通过实验证明当指定主题数量达到 70 时,高频词语义较为清
晰,可以明确指定出主题为哪一类别。
2) 高频词数量
当指定 70 个主题数量之后,通过实验发现,通过频率最高的 10 个高频词,
可以明确得到地点以及热点问题的描述。如图 10 所示,再根据高频词指定热点
问题的地点以及类别 :
"),(3, '6.655*#"A市" + 6.937*#"核查”+ 8.634*"兰亭" 二
6.623+ "手续”+ 6.623*+"车辆”+ 8.622+"相关”+ 8.622*"民和警” +
6.921*"职能部门” + 8.626+"司机”+ 8.926+"59"' ),(4,
"8.654*"小区”+ 8.642*"夜间"” + 8.642*"居民"” + 8.627*+"A市”+
9.6927*"二期" + 8.627*"开窗"” + 6.926*"夜宵” + 6.622*"停车位"
10.主题高频词
3.2.2 分类结果
通过 LDA 主题模型对于文档进行分类使用字典保存分类类别, 以及每一个类
别共有多少文档,如下图 11 所示,其中第 34类,46类,36 类,4类,31 类
的文档数最多, 即为热点问题,通过索引值将文档提取出并保存为热点问题留言
明细表,并且将最多的五个类别,通过归纳总结,保存为热点问题表。
Counter({34: 169,46: 169,36: 168,4: 98,31: 94,61: 86,