python打开网页获取网页内容方法总结
2015-08-14 13:37
951 查看
在学习python爬虫的过程中,总会遇到要获取网页内容的时候,下面就对如何获取网页内容进行总结。
方法一:
方法二:
方法三:
这里是使用的python的requests模块获取网页的内容。
方法四:
这里是使用的python的codecs模块。
推荐:
BeautifulSoup的安装可以查看博客。
python中的模块安装及更新方法,可以查看博客(pip,easy_install)。
解决python中出现乱码问题,可以查看博客。
方法一:
>import urllib >url="http://www.baidu.com" #这里是需要获取的网页 >content=urllib.open(url).read() #使用urllib模块获取网页内容 >print content #输出网页的内容 功能相当于查看网页源代码
方法二:
>import urllib2 >from bs4 import BeautifulSoup #这里需要导入BeautifulSoup >url="http://www.baidu.com" >content=urllib2.urlopen(url) >soup=BeautifulSoup(content) #将网页内容转化为BeautifulSoup 格式的数据 >print soup
方法三:
>import requests >content=requests.get(url).content >print content
这里是使用的python的requests模块获取网页的内容。
方法四:
>import codecs #导入codecs模块 >f=codecs.open(url,"r","utf-8") #使用codecs函数以打开的方式打开url 设置默认的编码方式为utf-8 >content=f.read() >f.close() >print content
这里是使用的python的codecs模块。
推荐:
BeautifulSoup的安装可以查看博客。
python中的模块安装及更新方法,可以查看博客(pip,easy_install)。
解决python中出现乱码问题,可以查看博客。
相关文章推荐
- 零基础学python-2.19 定义函数、调用函数与默认参数
- 安装mysql-python
- 总结python中的乱码问题
- python调用wcf服务 实现网站对客户端的调用
- 零基础学python-2.21 回到我们的游戏 加入类和函数
- 零基础学python-2.21 回到我们的游戏 加入类和函数
- Python中的super()方法使用简介
- 简单实现Socks5代理(Python&C#)
- 04 Python 对象 - 《Python 核心编程》
- 零基础学python-2.19 定义函数、调用函数与默认参数
- Python: 搜狗分类语料库gb2312编码为utf-8
- python使用thrift2协议connect hbase
- 小白学python(8.14)
- python 定时器
- python hadoop 在streaming中获取文件名的方法
- Python元组
- 判断网页的编码方式 python
- python+selenium测试用例参考
- 在Eclipse中手动安装pydev插件,eclipse开发python环境配置
- python中的if __name__=='__main__': main()解析