這是一款提取網站數據的開源工具。Scrapy框架用Python開發而成,它使抓取工作又快又簡單,且可擴展。我們已經在virtual box中創建一臺虛擬機(VM)并且在上面安裝了Ubuntu 14.04 LTS。
安裝 Scrapy
Scrapy依賴于Python、開發庫和pip。Python最新的版本已經在Ubuntu上預裝了。因此我們在安裝Scrapy之前只需安裝pip和python開發庫就可以了。
pip是作為python包索引器easy_install的替代品,用于安裝和管理Python包。pip包的安裝可見圖 1。
sudo apt-get install python-pip
圖:1 pip安裝
我們必須要用下面的命令安裝python開發庫。如果包沒有安裝那么就會在安裝scrapy框架的時候報關于python.h頭文件的錯誤。
sudo apt-get install python-dev
圖:2 Python 開發庫
scrapy框架既可從deb包安裝也可以從源碼安裝。在圖3中我們用pip(Python 包管理器)安裝了deb包了。
sudo pip install scrapy
圖:3 Scrapy 安裝
圖4中scrapy的成功安裝需要一些時間。
圖:4 成功安裝Scrapy框架
使用scrapy框架提取數據
基礎教程
我們將用scrapy從fatwallet.com上提取商店名稱(賣卡的店)。首先,我們使用下面的命令新建一個scrapy項目“store name”, 見圖5。
$sudo scrapy startproject store_name
圖:5 Scrapy框架新建項目
上面的命令在當前路徑創建了一個“store_name”的目錄。項目主目錄下包含的文件/文件夾見圖6。
$sudo ls –lR store_name
圖:6 store_name項目的內容
每個文件/文件夾的概要如下:
scrapy.cfg 是項目配置文件 store_name/ 主目錄下的另一個文件夾。 這個目錄包含了項目的python代碼 store_name/items.py 包含了將由蜘蛛爬取的項目 store_name/pipelines.py 是管道文件 store_name/settings.py 是項目的配置文件 store_name/spiders/, 包含了用于爬取的蜘蛛新聞熱點
疑難解答