一、爬取数据
话不多说了,直接上代码( copy即可用 )
import requests import pandas as pd class SpiderRumor(object): def __init__(self): self.url = "https://vp.fact.qq.com/loadmore" self.header = { "User-Agent": "Mozilla/5.0 (iPhone; CPU iPhone OS 11_0 like Mac OS X) AppleWebKit/604.1.38 (KHTML, like Gecko) Version/11.0 Mobile/15A372 Safari/604.1", } def spider_run(self): df_all = list() for url in [self.url % i for i in range(30)]: data_list = requests.get(url, headers=self.header).json()["content"] temp_data = [[df["title"], df["date"], df["result"], df["explain"], df["tag"]] for df in data_list] df_all.extend(temp_data) print(temp_data[0]) pd.DataFrame(df_all, columns=["title", "date", "result", "explain", "tag"]).to_csv("冠状病毒谣言数据.csv", encoding="utf_8_sig") if __name__ == '__main__': spider = SpiderRumor() spider.spider_run()
爬虫过程
二、数据分析
数据展示
每日谣言数量
由图可得:1月24日和1月25日是谣言的高峰期,让我们来看看这两天的数据:
由上图得知 一月二十四号和二十号传播的 29 条谣言中 96.55% 都是假的
谣言是否属实占比
从1月18日到今日截止2月14日共发现了300条谣言,右上图可得:76.33% 都是假的,只要 7.00% 是属实的,其中 14.33% 的谣言属于 伪科学 而且 还有 8.00% 属于尚无定论凭空捏造出的,需要多注意"text-align: center">
下面介绍 matplotlib 绘制饼图的代码
import numpy as np import pandas as pd import matplotlib.pyplot as plt # Windows系统设置中文字体 plt.rcParams['font.sans-serif']=['SimHei'] plt.rcParams['axes.unicode_minus'] = False data = pd.read_csv("/冠状病毒谣言数据.csv"") labels = data["explain"].value_counts().index.tolist() sizes = data["explain"].value_counts().values.tolist() colors = ['lightgreen', 'gold', 'lightskyblue', 'lightcoral'] plt.figure(figsize=(15,8)) plt.pie(sizes, labels=labels, colors=colors, autopct='%1.1f%%', shadow=True, startangle=50) # shadow=True 表示阴影 plt.axis('equal') # 使图居中 plt.show()
绘制谣言关键字分布图(观察 tag 这个字段)
由于 tag 这个字段内容是列表,我们取出来后是列表嵌套列表:[[a, b], [b, c], [c, d]] 我们要使用一行列表生成式快速的将所以的关键字取出来 [j for i in a for j in i]
import numpy as np import pandas as pd import matplotlib.pyplot as plt # Windows系统设置中文字体 plt.rcParams['font.sans-serif']=['SimHei'] plt.rcParams['axes.unicode_minus'] = False data = pd.read_csv("/冠状病毒谣言数据.csv"") df = pd.Series([j for i in [eval(i) for i in data["tag"].tolist()] for j in i]).value_counts()[:20] X = df.index.tolist() y = df.values.tolist() plt.figure(figsize=(15, 8)) # 设置画布 plt.bar(X, y, color="orange") plt.tight_layout() # plt.grid(axis="y") plt.grid(ls='-.') plt.show()
总结
以上所述是小编给大家介绍的Python爬取新型冠状病毒“谣言”新闻进行数据分析,希望对大家有所帮助!
免责声明:本站文章均来自网站采集或用户投稿,网站不提供任何软件下载或自行开发的软件!
如有用户或公司发现本站内容信息存在侵权行为,请邮件告知! 858582#qq.com
白云城资源网 Copyright www.dyhadc.com
暂无“Python爬取新型冠状病毒“谣言”新闻进行数据分析”评论...
更新日志
2024年11月08日
2024年11月08日
- 雨林唱片《赏》新曲+精选集SACD版[ISO][2.3G]
- 罗大佑与OK男女合唱团.1995-再会吧!素兰【音乐工厂】【WAV+CUE】
- 草蜢.1993-宝贝对不起(国)【宝丽金】【WAV+CUE】
- 杨培安.2009-抒·情(EP)【擎天娱乐】【WAV+CUE】
- 周慧敏《EndlessDream》[WAV+CUE]
- 彭芳《纯色角3》2007[WAV+CUE]
- 江志丰2008-今生为你[豪记][WAV+CUE]
- 罗大佑1994《恋曲2000》音乐工厂[WAV+CUE][1G]
- 群星《一首歌一个故事》赵英俊某些作品重唱企划[FLAC分轨][1G]
- 群星《网易云英文歌曲播放量TOP100》[MP3][1G]
- 方大同.2024-梦想家TheDreamer【赋音乐】【FLAC分轨】
- 李慧珍.2007-爱死了【华谊兄弟】【WAV+CUE】
- 王大文.2019-国际太空站【环球】【FLAC分轨】
- 群星《2022超好听的十倍音质网络歌曲(163)》U盘音乐[WAV分轨][1.1G]
- 童丽《啼笑姻缘》头版限量编号24K金碟[低速原抓WAV+CUE][1.1G]