NLP自然语言处理—主题模型LDA案例:挖掘人民网留言板文本数据|附代码数据
全文链接:tecdat.cn/?p=2155
最近我们被客户要求撰写关于NLP自然语言处理的研究报告,包括一些图形和统计输出。
随着网民规模的不断扩大,互联网不仅是传统媒体和生活方式的补充,也是民意凸显的地带。领导干部参与网络问政的制度化正在成为一种发展趋势,这种趋势与互联网发展的时代需求是分不开的
▼
人民网《地方领导留言板》是备受百姓瞩目的民生栏目,也是人民网品牌栏目,被称为“社情民意的集散地、亲民爱民的回音壁”。
基于以上背景,tecdat研究人员对北京留言板里面的留言数据进行分析,探索网民们在呼吁什么。
数量与情感
朝阳区群众最活跃
图表
从上图可以看出不同地区留言板的情感倾向分布,总的来说,负面情感留言数目和积极情感相差不多,负面情感留言较多,占比46%,积极情感留言占比42%,中立情感的留言占比11%。
从地区来看,活跃在各大媒体的“朝阳区群众”留言数目也是最多的,其次是海淀区,昌平区。因此,从情感分布来看大部分留言还是在反应存在的问题,而不是一味赞美或者灌水。
主题分析
外地户口问题呼声最高
接下来,我们对于语料进行LDA建模,就是从语料库中挖掘出不同主题并进行分析,换言之,LDA提供了一种较为方便地量化研究主题的机器学习方法。
我们使用最大似然估计进行最优化主题个数的选取。当主题个数定为20的时候,似然估计数最大,即留言板数据分为20个主题的可能性比较大。将模型生成的20个主题中的前五个高频词取出,如下表所示。
图表
然后我们将占比最高的前六个主题与它们的情感倾向进行分析。
图表
从上图可以看出大家关于6大主题的讨论:
主题1反应孩子,外地户口办理的问题是最多的,反应了外地落户北京相关的难题(e.g.父母在京工作20多年,儿女上学却因户口问题不能进入好的高校就读)。
主题2是反应环境改造及棚户改造(e.g.棚户房屋破旧、墙面潮湿、上下水管道老化腐烂现象严重经常造成跑冒滴漏,遇到雨雪天气,道路积水、泥泞不堪,大院居民尤其是老人小孩出行非常不便)。
主题3是反应高考和医保(e.g.外地人衷心的希望政府能关注一下孩子在北京的高考问题)。
主题4是汽车摇号政策(e.g.现行的摇号方案是不可行,治标不治本.有的摇号是一个人摇不上,全家人都出动;有的是想买车根本摇不号;有的是不想买车就摇上了)。
主题5是反应工资和租房问题(e.g.我是外地退休教师。因为孩子在北京工作,故到北京帮助孩子料理家务,以支持孩子工作。因为北京房价昂贵,我们买不起大房,三代人只能挤着住。我想问问市长,我们是否也能住公租房)。
主题6是违法建筑(e.g.XX雅苑许多一层业主私搭乱建成风,且物业无能,造成极大的安全隐患)。
地区、主题与情感得分
** **
接下来我们分析了不同主题和地区的情感倾向分布。从下图可以看出,主题3高考和医保、主题6 违法建筑、主题13教育拆迁的留言内容中积极情感占较大比例。
图表
我们发现在不同主题中情感得分最高的地区中海淀区最多,其次是朝阳区和大兴区。同时也可以发现,情感得分最高的是在主题11居民生活下的朝阳区留言内容。总的来说,根据积极情感的内容分布来看,主题3高考和医保、主题6 违法建筑、主题13教育拆迁的留言内容中表现出较好的反馈。
本文摘选 《 数据聆听人民网留言板的那些网事 》
相关文章
- Java案例:实现九九乘法表「建议收藏」
- Flask学习实践使用案例
- php案例:json新增数据
- JavaScript案例:弹出登录框拖拽模态框
- 元数据治理:产品方案介绍及案例实践
- PQ实战案例拆解 | 汇总多股票交易数据,计算最近60天的5日移动平均的操作与算法优化
- 27个Python数据科学库实战案例演示
- YMatrix数据可视化案例
- 实战案例:初探工程配置 & 图标组件热身
- 基于SpringCloud的Microservices架构实战案例-序篇
- 【愚公系列】2023年02月 .NET CORE工具案例-Workflow-Core轻量级工作流引擎(随机流程)
- 线性回归和时间序列分析北京房价影响因素可视化案例|附代码数据
- 人工神经网络ANN中的前向传播和R语言分析学生成绩数据案例|附代码数据
- 大数据Flink进阶(七):Flink批和流案例总结
- R语言泰坦尼克号随机森林模型案例数据分析|附代码数据
- 大数据技术之MapReduce中多表合并案例详解大数据