快速使用百度站長工具檢查和配置Robots

百度站長工具檢查和配置Robots http://zhanzhang.baidu.com/robots/index

一、檢查當前Robots配置：

1、 首先點擊“檢測robots.txt”

2、 輸入你要查詢的網址

3、 按“檢測”

4、 按“檢測”后就會出現以下內容是當前不允許抓取和允許抓取的列表，像后臺文件夾這些應該設置為“不允許抓取”。

若檢測結果為上圖，表明空間不存在robots.txt表示您允許搜索引擎可以抓取您網站全部的內容包括后臺信息。

二、配置Robots

1、 點擊“生成robots.txt”

2、 設置“user-agent”為“所有”即允許所有搜索引擎收錄網站信息，狀態分別有“允許抓取”和“不允許抓取”按你的需要設置好哪個路徑是允許搜索引擎收錄網站信息的或不收錄的。“路徑”代表空間中那個路徑要做Robots的。

3、 “user-agent”“狀態”“路徑”這三個都設置好了，可以點擊“創建”按鈕。這時“robots.txt內容”會自動添加你剛配置好的信息，將你要配置的都創建好后點擊“下載”將“robots.txt”下載到本地后上傳到服務器網頁根目錄下即可。