python_程序模擬瀏覽器請求及會話保持

2019-11-14 17:35:08

字體：大中小

來源：轉載

供稿：網友

python下讀取一個頁面的數據可以通過urllib2輕松實現請求

import urllib2PRint urllib2.urlopen('http://www.baidu.com').read()

涉及到頁面的POST請求操作的話需要提供頭信息，提交的post數據和請求頁面。

其中的post數據需要urllib.encode()一下，其實就是將字典轉換成“data1=value1&data2=value2”的格式。

import urllibimport urllib2HEADER = {    'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',    'Referer' : 'http://202.206.1.163/logout.do'}POSTDATA = {    'data1': 'value1',    'data2': 'value2'}HOSTURL = 'http://xxx.com'enpostdata = urllib.urlencode(POSTDATA)urlrequest = urllib2.Request(hosturl,enpostdata,HEADER)urlresponse = urllib2.urlopen(urlrequest)print urlresponse.read()

請求之后瀏覽器會有一個會話保持的過程，會話都是保存在一個cookie里面的，下一次頁面的請求會把cookie放到請求頭，如果cookie丟失會話也就斷開了。

在python下面需要設置一下cookie的保持

# cookie set# 用來保持會話cj = cookielib.LWPCookieJar()cookie_support = urllib2.HTTPCookieProcessor(cj)opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)urllib2.install_opener(opener)

下面是將以上知識點匯總寫的一個庫文件，方便使用：

# filename: analogop.py

#!/usr/bin/python# -*-coding:UTF-8 -*-# author: 初行# QQ: 121866673# mail: zxbd1016@163.com# message: I need a python job# time: 2014/10/5import urllibimport urllib2import cookielib# cookie set# 用來保持會話cj = cookielib.LWPCookieJar()cookie_support = urllib2.HTTPCookieProcessor(cj)opener = urllib2.build_opener(cookie_support, urllib2.HTTPHandler)urllib2.install_opener(opener)# default headerHEADER = {
    'User-Agent' : 'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:31.0) Gecko/20100101 Firefox/31.0',    'Referer' : 'http://202.206.1.163/logout.do'}# Operate methoddef geturlopen(hosturl, postdata = {}, headers = HEADER):    # encode postdata    enpostdata = urllib.urlencode(postdata)    # request url    urlrequest = urllib2.Request(hosturl, enpostdata, headers)    # open url    urlresponse = urllib2.urlopen(urlrequest)    # return url    return urlresponse

這個是測試文件，因為讀者沒有測試環境，需要自己搭建或者找個網站測試：

#filename: test.py

from analogop import geturlopenpostd = {    'usernum': '2011411111',    'upw': '124569',    'userip': '192.168.10.1',    'token': 'xxx'}urlread = geturlopen('http://127.0.0.1:8000/login/', postd)print urlread.read().decode('utf-8')urlread = geturlopen('http://127.0.0.1:8000/chafen/', {})print urlread.read().decode('utf-8')