Python爬取糗事百科,并利用Wordcloud进行展示
2017-12-05 11:27
453 查看
#!/usr/bin/env python3 # -*- coding: utf-8 -*- import requests from bs4 import BeautifulSoup
# 糗事百科的url为:https://www.qiushibaike.com/8hr/page/2/ page后面的数字随页面变化。本次爬去第2-9页的数据 url = 'https://www.qiushibaike.com/8hr/page/' Text_All=[] for p in range(2,9):
start_urls = url + str(p)+'/' #print(start_urls) res = requests.get(start_urls) res.encoding = 'utf-8' soup = BeautifulSoup(res.text,'html.parser') for i in soup.select('.content span')[:]: Text_All.append(i.text) 将list转换为str text_all=' '.join(Text_All) print(text_all)
#写入text.txt文件 with open('test.txt','wb') as f: f.write(text_all.encode('utf-8'))
结果如下:
#!/usr/bin/env python3 # -*- coding: utf-8 -*- from os import path from PIL import Image import numpy as np import matplotlib.pyplot as plt import jieba import codecs,sys import random from wordcloud import WordCloud, STOPWORDS, ImageColorGenerator
#定义图片色彩函数 def color_func(word, font_size, position, orientation, random_state=None, **kwargs): return "hsl(15, %d%%, %d%%)" % (random.randint(200, 255),random.randint(10, 55)) #return "hsl(100, %d%%, %d%%)" % (random.randint(200, 255),random.randint(10, 55)) d = path.dirname('.') # 读取整个文档 text = codecs.open("test.txt","r","utf-8").read() #text = open(path.join(d, '.txt')).read() text = " ".join(jieba.cut(text)) # 设置背景图片 flower_coloring = np.array(Image.open(path.join(d, "a.jpg"))) stopwords = set(STOPWORDS) stopwords.add("said")
#设置背景参数 wc = WordCloud(background_color="white", max_words=2000, mask=flower_coloring, font_path = 'C:\Windows\Fonts\simfang.ttf', stopwords=stopwords, max_font_size=12, random_state=10)
# generate word cloud wc.generate(text) # show plt.imshow(wc) plt.axis("off") plt.figure() # 保存图片 wc.to_file(path.join(d,"1.png"))
#更换图片颜色
plt.imshow(wc.recolor(color_func=color_func, random_state=3)) wc.to_file("2.png")
结果展示:
相关文章推荐
- 利用python画词云图(wordcloud)
- 如何解决Python中利用Wordcloud无法生成中文词云的问题?
- 利用python进行word_count
- 利用结巴和WordCloud进行中文分词及图云绘制入门
- 7057-1.Python数据可视化:利用matplotlib中的subplot进行图中图展示
- 利用wordcloud包,画词云图(Python学习实例一)
- 【转】利用Python中的mock库对Python代码进行模拟测试
- 利用SWIG对C++库进行Python包装
- 【利用Python进行数据分析——经验篇2】计算微博转发/评论/点赞h指数的Python代码
- 利用python的str.format()对字符串进行格式化处理
- 利用Python进行大数据分析(完整中文版689页)
- 利用Python 进行数据分析 ch02
- python下进行lda主题挖掘(二)——利用gensim训练LDA模型
- 利用python进行数据分析-绘图和可视化2
- 【Rosseta中文分词】python下利用HMM思想进行中文分词
- python利用MySQLdb模块进行数据库的连接实现增查操作
- Python云图——WordCloud了解一下
- 利用 Python 进行数据分析(一)简单介绍
- Py之wordcloud:python中非常有趣的词云wordcloud——Jason niu
- 利用Python进行数据分析(4) NumPy基础: ndarray简单介绍