国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

對python使用http、https代理的實例講解

2020-02-23 00:01:24
字體:
來源:轉載
供稿:網友

在國內利用Python從Internet上爬取數(shù)據時,有些網站或API接口被限速或屏蔽,這時使用代理可以加速爬取過程,減少請求失敗,Python程序使用代理的方法主要有以下幾種:

(1)如果是在代碼中使用一些網絡庫或爬蟲框架進行數(shù)據爬取,一般這種框架都會支持設置代理,例如:

<span style="font-size:14px;">import urllib.request as urlreq # 設置https代理 ph = urlreq.ProxyHandler({'https': 'https://127.0.0.1:1080'}) oper = urlreq.build_opener(ph) # 將代理安裝到全局環(huán)境,這樣所有請求都會自動使用代理 urlreq.install_opener(oper) res = oper.open("https://www.google.com") print(res.read())</span> 
<span style="font-size:14px;">import requests as req print(req.get("https://www.google.com", proxies={'https': 'https://127.0.0.1:1080'}).content)</span> 

(2)如果使用的庫沒有提供設置代理的接口,但是底層使用了urllib、requests等庫,可以嘗試設置HTTP_PROXY 和HTTPS_PROXY環(huán)境變量,常用的網絡庫會自動識別這些環(huán)境變量,使用變量設置的代理發(fā)起請求,設置如下:

import os os.environ['http_proxy'] = 'http://127.0.0.1:1080' os.environ['https_proxy'] = 'https://127.0.0.1:1080' 

(3)如果上述兩種方法都沒有用,那么還可以使用一些可以監(jiān)聽、攔截和修改網絡包的工具和庫如(Fiddler、mitmproxy)來攔截http請求包并修改地址,達到使用代理的效果。

以上這篇對python使用http、https代理的實例講解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持武林站長站。

發(fā)表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發(fā)表
主站蜘蛛池模板: 遂昌县| 清涧县| 德安县| 慈利县| 合川市| 甘谷县| 郎溪县| 衡水市| 肥东县| 兴化市| 大田县| 绥阳县| 麻阳| 腾冲县| 宜宾县| 那坡县| 新野县| 明溪县| 壤塘县| 鹤壁市| 额济纳旗| 资讯 | 莱阳市| 原阳县| 昭通市| 塔城市| 冕宁县| 宜春市| 揭东县| 福海县| 富顺县| 凯里市| 高邑县| 信阳市| 枣强县| 平昌县| 延边| 富锦市| 安阳市| 南澳县| 腾冲县|