python爬虫爬取网页表格数据

用python爬取网页表格数据，供大家参考，具体内容如下

from bs4 import BeautifulSoup
import requests
import csv
import bs4
#检查url地址
def check_link(url):
try:
r = requests.get(url)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
print('无法链接服务器！！！')
#爬取资源
def get_contents(ulist,rurl):
soup = BeautifulSoup(rurl,'lxml')
trs = soup.find_all('tr')
for tr in trs:
ui = []
for td in tr:
ui.append(td.string)
ulist.append(ui)
#保存资源
def save_contents(urlist):
with open("D:/2016年中国企业500强排行榜.csv",'w') as f:
writer = csv.writer(f)
writer.writerow(['2016年中国企业500强排行榜'])
for i in range(len(urlist)):
writer.writerow([urlist[i][1],urlist[i][3],urlist[i][5]])
def main():
urli = []
url = "http://www.maigoo.com/news/463071.html"
rs = check_link(url)
get_contents(urli,rs)
save_contents(urli)
main()

以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持脚本之家。

您可能感兴趣的文章:

• 一个简单的python爬虫程序 爬取豆瓣热度Top100以内的电影信息
• python书籍信息爬虫实例
• python爬虫爬取淘宝商品信息（selenum+phontomjs）
• python爬虫获取淘宝天猫商品详细参数
• python爬虫爬取淘宝商品信息
• Python爬虫使用Selenium+PhantomJS抓取Ajax和动态HTML内容
• Python即时网络爬虫项目启动说明详解
• 零基础写python爬虫之爬虫编写全记录
• Python爬虫框架Scrapy安装使用步骤
• python2.7实现爬虫网页数据