防止網站被采集的理論分析以及十條方法對策第1/2頁

2024-05-04 11:00:23

字體：大中小

來源：轉載

供稿：網友

相同點：
a. 兩者都需要直接抓取到網頁源碼才能有效工作，
b. 兩者單位時間內會多次大量抓取被訪問的網站內容;
c. 宏觀上來講兩者IP都會變動;
d. 兩者多沒耐心的去破解你對網頁的一些加密(驗證)，比如網頁內容通過js文件加密，比如需要輸入驗證碼才能瀏覽內容，比如需要登錄才能訪問內容等。

不同點：
搜索引擎爬蟲先忽略整個網頁源碼腳本和樣式以及html標簽代碼，然后對剩下的文字部分進行切詞語法句法分析等一系列的復雜處理。而采集器一般是通過 html標簽特點來抓取需要的數據，在制作采集規則時需要填寫目標內容的開始標志何結束標志，這樣就定位了所需要的內容;或者采用對特定網頁制作特定的正則表達式，來篩選出需要的內容。無論是利用開始結束標志還是正則表達式，都會涉及到html標簽(網頁結構分析)。

然后再來提出一些防采集方法
1、限制IP地址單位時間的訪問次數
分析：沒有哪個常人一秒鐘內能訪問相同網站5次，除非是程序訪問，而有這種喜好的，就剩下搜索引擎爬蟲和討厭的采集器了。

弊端：一刀切，這同樣會阻止搜索引擎對網站的收錄

適用網站：不太依靠搜索引擎的網站

采集器會怎么做：減少單位時間的訪問次數，減低采集效率

2、屏蔽ip
分析：通過后臺計數器，記錄來訪者ip和訪問頻率，人為分析來訪記錄，屏蔽可疑Ip。

弊端：似乎沒什么弊端，就是站長忙了點

適用網站：所有網站，且站長能夠知道哪些是google或者百度的機器人

采集器會怎么做：打游擊戰唄!利用ip代理采集一次換一次，不過會降低采集器的效率和網速(用代理嘛)。

3、利用js加密網頁內容
Note:這個方法我沒接觸過，只是從別處看來
分析：不用分析了，搜索引擎爬蟲和采集器通殺

適用網站：極度討厭搜索引擎和采集器的網站

采集器會這么做：你那么牛，都豁出去了，他就不來采你了

4、網頁里隱藏網站版權或者一些隨機垃圾文字，這些文字風格寫在css文件中
分析：雖然不能防止采集，但是會讓采集后的內容充滿了你網站的版權說明或者一些垃圾文字，因為一般采集器不會同時采集你的css文件，那些文字沒了風格，就顯示出來了。

適用網站：所有網站

采集器會怎么做：對于版權文字，好辦，替換掉。對于隨機的垃圾文字，沒辦法，勤快點了。

5、用戶登錄才能訪問網站內容
分析：搜索引擎爬蟲不會對每個這樣類型的網站設計登錄程序。聽說采集器可以針對某個網站設計模擬用戶登錄提交表單行為。

適用網站：極度討厭搜索引擎，且想阻止大部分采集器的網站

上一篇：asp 得到動態數組中元素的個數

下一篇：asp檢測是否為中文字符函數