国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

python爬蟲之urllib3的使用示例

2020-02-15 22:16:09
字體:
供稿:網(wǎng)友

Urllib3是一個功能強大,條理清晰,用于HTTP客戶端的Python庫。許多Python的原生系統(tǒng)已經(jīng)開始使用urllib3。Urllib3提供了很多python標準庫urllib里所沒有的重要特性:

    線程安全 連接池 客戶端SSL/TLS驗證 文件分部編碼上傳 協(xié)助處理重復(fù)請求和HTTP重定位 支持壓縮編碼 支持HTTP和SOCKS代理

一、get請求

urllib3主要使用連接池進行網(wǎng)絡(luò)請求的訪問,所以訪問之前我們需要創(chuàng)建一個連接池對象,如下所示:

import urllib3url = "http://httpbin.org"http = urllib3.PoolManager();r = http.request('GET',url+"/get")print(r.data.decode())print(r.status)帶參數(shù)的getr = http.request('get','http://www.baidu.com/s',fields={'wd':'周杰倫'})print(r.data.decode())

經(jīng)查看源碼:

def request(self, method, url, fields=None, headers=None, **urlopen_kw):
第一個參數(shù)method 必選,指定是什么請求,'get'、'GET'、'POST'、'post'、'PUT'、'DELETE'等,不區(qū)分大小寫。 第二個參數(shù)url,必選 第三個參數(shù)fields,請求的參數(shù),可選 第四個參數(shù)headers 可選

request請求的返回值是<urllib3.response.HTTPResponse object at 0x000001B3879440B8>

我們可以通過dir()查看其所有的屬性和方法。

dir(r)

直截取了一部分

#'data', 'decode_content', 'enforce_content_length', 'fileno', 'flush', 'from_httplib',# 'get_redirect_location', 'getheader', 'getheaders', 'headers', 'info', 'isatty',# 'length_remaining', 'read', 'read_chunked', 'readable', 'readinto', 'readline',# 'readlines', 'reason', 'release_conn', 'retries', 'seek', 'seekable', 'status',# 'stream', 'strict', 'supports_chunked_reads', 'tell', 'truncate', 'version', 'writable',# 'writelines']

二、post請求

import urllib3url = "http://httpbin.org"fields = {  'name':'xfy'}http = urllib3.PoolManager()r = http.request('post',url+"/post",fields=fields)print(r.data.decode())

可以看到很簡單,只是第一個參數(shù)get換成了post。

并且參數(shù)不需要再像urllib一樣轉(zhuǎn)換成byte型了。

三、設(shè)置headers

import urllib3headers = {   'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'}http = urllib3.PoolManager();r = http.request('get',url+"/get",headers = headers)print(r.data.decode())

四、設(shè)置代理

import urllib3url = "http://httpbin.org"headers = {   'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.113 Safari/537.36'}proxy = urllib3.ProxyManager('http://101.236.19.165:8866',headers = headers)r = proxy.request('get',url+"/ip")print(r.data.decode())

五、當(dāng)請求的參數(shù)為json

發(fā)表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發(fā)表
主站蜘蛛池模板: 高密市| 炉霍县| 永福县| 嘉祥县| 长子县| 扶绥县| 舒城县| 子洲县| 神农架林区| 巴彦淖尔市| 措勤县| 内丘县| 治县。| 郁南县| 得荣县| 美姑县| 永寿县| 阳春市| 阜阳市| 闽侯县| 乾安县| 体育| 鲁甸县| 平远县| 盘锦市| 刚察县| 诸城市| 日土县| 台南市| 南漳县| 定日县| 环江| 黑河市| 桐柏县| 中方县| 永顺县| 同心县| 南通市| 江川县| 汽车| 行唐县|