国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

在Linux系統上安裝Python的Scrapy框架的教程

2020-02-23 01:34:59
字體:
來源:轉載
供稿:網友

這是一款提取網站數據的開源工具。Scrapy框架用Python開發而成,它使抓取工作又快又簡單,且可擴展。我們已經在virtual box中創建一臺虛擬機(VM)并且在上面安裝了Ubuntu 14.04 LTS。
安裝 Scrapy
Scrapy依賴于Python、開發庫和pip。Python最新的版本已經在Ubuntu上預裝了。因此我們在安裝Scrapy之前只需安裝pip和python開發庫就可以了。

pip是作為python包索引器easy_install的替代品,用于安裝和管理Python包。pip包的安裝可見圖 1。

  sudo apt-get install python-pip

201561193734623.png (530×109)

圖:1 pip安裝

我們必須要用下面的命令安裝python開發庫。如果包沒有安裝那么就會在安裝scrapy框架的時候報關于python.h頭文件的錯誤。

  sudo apt-get install python-dev

201561193801448.png (513×74)

    圖:2 Python 開發庫

scrapy框架既可從deb包安裝也可以從源碼安裝。在圖3中我們用pip(Python 包管理器)安裝了deb包了。

  sudo pip install scrapy 

201561193823875.png (507×126)

    圖:3 Scrapy 安裝

圖4中scrapy的成功安裝需要一些時間。

201561193846944.png (572×108)

圖:4 成功安裝Scrapy框架
使用scrapy框架提取數據
基礎教程

我們將用scrapy從fatwallet.com上提取商店名稱(賣卡的店)。首先,我們使用下面的命令新建一個scrapy項目“store name”, 見圖5。   

$sudo scrapy startproject store_name

    201561193909068.png (553×341)

    圖:5 Scrapy框架新建項目

上面的命令在當前路徑創建了一個“store_name”的目錄。項目主目錄下包含的文件/文件夾見圖6。

  

 $sudo ls –lR store_name

   201561193933392.png (488×336)

    圖:6 store_name項目的內容

每個文件/文件夾的概要如下:

    scrapy.cfg 是項目配置文件     store_name/ 主目錄下的另一個文件夾。 這個目錄包含了項目的python代碼     store_name/items.py 包含了將由蜘蛛爬取的項目     store_name/pipelines.py 是管道文件     store_name/settings.py 是項目的配置文件     store_name/spiders/, 包含了用于爬取的蜘蛛
發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 龙陵县| 呼图壁县| 玉田县| 涞源县| 涞水县| 南阳市| 安达市| 兴业县| 镇康县| 伊春市| 龙江县| 赤峰市| 万全县| 玉溪市| 临邑县| 兰溪市| 宜春市| 寿阳县| 兴安县| 牙克石市| 福清市| 修文县| 涿州市| 库伦旗| 西盟| 陈巴尔虎旗| 宣化县| 蒲城县| 雅安市| 大方县| 桂东县| 嘉荫县| 丰台区| 高陵县| 万源市| 通道| 青阳县| 集安市| 谢通门县| 雷波县| 仙桃市|