python打开网页获取网页内容方法总结
2017-08-26 12:42
696 查看
在学习Python爬虫的过程中,总会遇到要获取网页内容的时候,下面就对如何获取网页内容进行总结。
方法一:
方法二:
方法三:
这里是使用的python的requests模块获取网页的内容。
方法四:
这里是使用的python的codecs模块。
方法一:
import urllib url="http://www.baidu.com" #这里是需要获取的网页 content=urllib.open(url).read() #使用urllib模块获取网页内容 print content #输出网页的内容 功能相当于查看网页源代码
方法二:
import urllib2 from bs4 import BeautifulSoup #这里需要导入BeautifulSoup url="http://www.baidu.com" content=urllib2.urlopen(url) soup=BeautifulSoup(content) #将网页内容转化为BeautifulSoup 格式的数据 print soup
方法三:
import requests content=requests.get(url).content print content
这里是使用的python的requests模块获取网页的内容。
方法四:
import codecs #导入codecs模块 f=codecs.open(url,"r","utf-8") #使用codecs函数以打开的方式打开url 设置默认的编码方式为utf-8 content=f.read() f.close() print content
这里是使用的python的codecs模块。
相关文章推荐
- python打开网页获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结发布
- php获取网页内容方法总结
- php获取网页内容方法总结
- PHP获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- php获取网页内容方法总结
- python下载网页图片方法总结(含打开网页提示下载)
- php获取网页内容方法总结
- php获取网页内容方法总结
- python爬虫 使用真实浏览器打开网页的两种方法总结
- paip.uapi 获取网络url内容html 的方法java php ahk c++ python总结.
- python打开url并按指定块读取网页内容的方法
- PHP获取网页内容方法总结
- Python获取动态网页内容的一种处理方法
- Python获取网页指定内容(BeautifulSoup工具的使用方法)
- php获取网页内容方法总结