国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

Python使用scrapy采集時偽裝成HTTP/1.1的方法

2020-02-23 00:36:30
字體:
來源:轉載
供稿:網友

本文實例講述了Python使用scrapy采集時偽裝成HTTP/1.1的方法。分享給大家供大家參考。具體如下:

添加下面的代碼到 settings.py 文件
代碼如下:DOWNLOADER_HTTPCLIENTFACTORY = 'myproject.downloader.HTTPClientFactory'
保存以下代碼到單獨的.py文件
代碼如下:from scrapy.core.downloader.webclient import ScrapyHTTPClientFactory, ScrapyHTTPPageGetter
class PageGetter(ScrapyHTTPPageGetter):
    def sendCommand(self, command, path):
        self.transport.write('%s %s HTTP/1.1/r/n' % (command, path))
class HTTPClientFactory(ScrapyHTTPClientFactory):
     protocol = PageGetter

希望本文所述對大家的Python程序設計有所幫助。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 聂拉木县| 景谷| 广平县| 蛟河市| 鸡西市| 福贡县| 巴塘县| 张家界市| 长丰县| 苗栗县| 铜陵市| 湖州市| 巴中市| 株洲县| 文昌市| 韶山市| 星子县| 西昌市| 文安县| 鹤庆县| 泰顺县| 虹口区| 自贡市| 华坪县| 宁夏| 定陶县| 大方县| 翁源县| 扎鲁特旗| 阳山县| 怀化市| 兴文县| 纳雍县| 长兴县| 长岭县| 墨江| 武平县| 屏山县| 广宁县| 阿瓦提县| 闽清县|