国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 網站 > 優化推廣 > 正文

網頁抓取優先策略

2024-04-26 13:42:36
字體:
來源:轉載
供稿:網友

網頁抓取優先策略也稱為“頁面選擇問題”(page Selection),通常是盡可能地首先抓取重要性的網頁,這樣保證在有限的資源內盡可能地照顧到那些重要性高的網頁。那么哪些網頁才是重要性高的呢?如何量化重要性呢?

重要性度量由鏈接歡迎度、鏈接重要度和平均鏈接深度這個方面決定。

定義鏈接歡迎度為IB(P),它主要由反向鏈接(Backinks)的數目和質量決定。首先考察數目,直觀地講,一個網頁有越多的鏈接指向它(反向鏈接數多),那么表示其他網頁對其的認可。同時這個網頁被網民訪問的機會就大,推測出其重要性也就越高;其次考察質量,假如被越多的重要性高的網指向,那么其重要性也就越高。假如不考慮質量,就會出現局部最優,而不是全局最優的問題。最典型的就是作弊網頁,人為地在一些網頁中設置了大量反策鏈接指向其自身的網頁,以提高該網頁的重要性。假如不考慮鏈接質量,就會被這些作弊者所利用。

定義鏈接重要度為IL(P),它是一個關于URL字符串的函數,僅僅考察字符串本身。鏈接重要度主要通過一些模式,比如認為包含“.COM”或者“HOME”的URL重要度高,以及具有較少斜杠(Slash)的URL重要度高等。

定義平均鏈接深度為ID(P),此為筆者所創。ID(P)表示在一個種子站點集合中,每個種子站點假如存在一條鏈路(寬度優先遍歷規則)到達該網頁,那么平均鏈接深度就是這個網頁的又一個重要性指標。因為距離種子站點越近,說明被訪問的機會越多,離種子站點越遠,重要性越低。事實上,按照寬度優先的遍歷規則即可滿足這種重要性高的網頁被優先抓取的需要。

最后,定義網頁重要性的度量為I(P),它由以上兩個量化值線性決定,即:

I(P)=a*IB(P) β*IL(P)

平均鏈接深度同寬度優先的遍歷規則保證,因此不作為重要性評價的指標。在抓取能力有限的情況下,假如能夠把重要性高的網頁盡可能地抓完,是合理科學的,最終被用戶查詢到的網頁也往往是那些重要性高的網頁。

盡管這樣看來已經足夠完美,事實上,還是忽視了一個重要的要素--時間。時間導致萬維網動態變化的一面。如何抓取那些新增的網頁呢?如何重訪那些被修改了的網頁呢?如何發現那些被刪除了的網頁呢?為了保持和萬維網網頁的同步變化,就必須有網頁重訪策略。通過該策略可以識別增加、修改及刪除網頁這3種網頁變化的情況。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 龙州县| 道真| 营山县| 赞皇县| 方城县| 烟台市| 嫩江县| 鲁甸县| 灵山县| 东海县| 大化| 改则县| 苏尼特右旗| 南康市| 元阳县| 兴宁市| 周宁县| 额尔古纳市| 阜平县| 屏山县| 乐安县| 隆昌县| 德州市| 秀山| 沂水县| 道孚县| 曲靖市| 金阳县| 澄迈县| 寿光市| 双城市| 北川| 潼关县| 茂名市| 石楼县| 凤翔县| 丁青县| 武安市| 隆化县| 和顺县| 安庆市|