转载-Python爬虫之模拟登录总结

转载:http://blog.csdn.net/churximi/article/details/50917322

备注：python 2.7.9，32位

有些网站需要登录后才能爬取所需要的信息，此时可以设计爬虫进行模拟登录，原理是利用浏览器cookie。

一、浏览器访问服务器的过程：

（1）浏览器（客户端）向Web服务器发出一个HTTP请求（Http request）；

（2）Web服务器收到请求，发回响应信息（Http Response）；

（3）浏览器解析内容呈现给用户。

二、利用Fiddler查看浏览器行为信息：

Http请求消息：

（1）起始行：包括请求方法、请求的资源、HTTP协议的版本号

这里GET请求没有消息主体，因此消息头后的空白行中没有其他数据。



（2）消息头：包含各种属性

（3）消息头结束后的空白行

（4）可选的消息体：包含数据

Http响应消息：

（1）起始行：包括HTTP协议版本，http状态码和状态

（2）消息头：包含各种属性
（3）消息体：包含数据



从上面可见，cookie在Http请求和Http响应的头消息中是很重要的属性。

三、什么是cookie：

当用户通过浏览器首次访问一个域名时，访问的Web服务器会给客户端发送数据，以保持Web服务器与客户端之间的状态，这些数据就是Cookie。

它是站点创建的，为了辨别用户身份而储存在用户本地终端上的数据，其中的信息一般都是经过加密的，存在缓存或硬盘中，在硬盘中是一些小文本文件。

当访问该网站时，就会读取对应网站的Cookie信息。

作用：记录不同用户的访问状态。

四、操作过程：

在知乎登录界面输入用户名和密码，然后登录。

利用Fiddler来查看这期间浏览器和知乎服务器之间的信息交互。

（1）浏览器给服务器发送了一个POST，携带帐号和密码等信息；

&nb
4000
sp;


从起始行可见，POST是发送给http://www.zhihu.com/login/email这个网址，内容在最下面消息体里，

也可以在Fiddler的Webforms标签下查看POST的内容，如下：



可以发现，信息里不仅有帐号（email）和密码（password），其实还有_xsrf（具体作用往后看）和remember_me（登录界面的“记住我”）两个值。

那么，在python爬虫中将这些信息同样发送，就可以模拟登录。

在发送的信息里出现了一个项：_xsrf，值为2fc4ab0f0f144c2e478c436fe3160443

这个项其实是在访问知乎登录网页https://www.zhihu.com/#signin时，网页发送过来的信息，在浏览器源码中可见：



所以需要先从登录网址https://www.zhihu.com/#signin获取这个_xsrf的值，

并连同帐号、密码等信息再POST到真正接收请求的http://www.zhihu.com/login/email网址。

（2）获取_xsrf的值：

爬取登录网址https://www.zhihu.com/#signin，从内容中获取_xsrf的值。

正则表达式。

（3）发送请求：

xsrf = 获取的_xsrf的值

data = {“email”:”xxx”,”password”:”xxx”,”_xsrf”:xsrf}

login = s.post(loginURL, data = data, headers = headers)

loginURL：是真正POST到的网址，不一定等同于登录页面的网址；

（4）爬取登录后的网页：

response = s.get(getURL, cookies = login.cookies, headers = headers)

getURL：要爬取的登陆后的网页；

login.cookies：登陆时获取的cookie信息，存储在login中。

（5）输出内容：

print response.content

五、具体代码：

[python] view plain copy print?# -- coding:utf-8 --
# author:Simon
# updatetime:2016年3月17日 17:35:35
# 功能：爬虫之模拟登录，urllib和requests都用了…

import urllib
import urllib2
import requests
import re

headers = {’User-Agent’:‘Mozilla/5.0 (Windows NT 6.2) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.12 Safari/535.11’}

def get_xsrf():
firstURL = ”http://www.zhihu.com/#signin”
request = urllib2.Request(firstURL,headers = headers)
response = urllib2.urlopen(request)
content = response.read()
pattern = re.compile(r’name=”_xsrf” value=”(.?)”/>’,re.S)
_xsrf = re.findall(pattern,content)
return _xsrf[0]

def login(par1):
s = requests.session()
afterURL = ”https://www.zhihu.com/explore” # 想要爬取的登录后的页面
loginURL = ”http://www.zhihu.com/login/email” # POST发送到的网址
login = s.post(loginURL, data = par1, headers = headers) # 发送登录信息，返回响应信息（包含cookie）
response = s.get(afterURL, cookies = login.cookies, headers = headers) # 获得登陆后的响应信息，使用之前的cookie
return response.content

xsrf = get_xsrf()
print “_xsrf的值是：” + xsrf
data = {”email”:“xxx”,“password”:“xxx”,“_xsrf”:xsrf}
print login(data)

# -- coding:utf-8 -*-

author:Simon

updatetime:2016年3月17日 17:35:35

功能：爬虫之模拟登录，urllib和requests都用了...

import urllib

import urllib2

import requests

import re

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.2) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.12 Safari/535.11'}

def get_xsrf():

firstURL = "http://www.zhihu.com/#signin"

request = urllib2.Request(firstURL,headers = headers)

response = urllib2.urlopen(request)

content = response.read()

pattern = re.compile(r'name="_xsrf" value="(.*?)"/>',re.S)

_xsrf = re.findall(pattern,content)

return _xsrf[0]

def login(par1):

s = requests.session()

afterURL = "https://www.zhihu.com/explore" # 想要爬取的登录后的页面

loginURL = "http://www.zhihu.com/login/email" # POST发送到的网址

login = s.post(loginURL, data = par1, headers = headers) # 发送登录信息，返回响应信息（包含cookie）

response = s.get(afterURL, cookies = login.cookies, headers = headers) # 获得登陆后的响应信息，使用之前的cookie

return response.content

xsrf = get_xsrf()

print "_xsrf的值是：" + xsrf

data = {"email":"xxx","password":"xxx","_xsrf":xsrf}

print login(data)

六、补充：

用知乎网做完试验，发现这里好像并不需要发送_xsrf这个值。

不过有的网站在登陆时确实需要发送类似这样的一个值，可以用上述方法。