搜索引擎是如何處理并且刪除重復網頁的




因為互聯網上有大約22%的內容是相同的,一旦你的文章發表在網上,就有可能會被轉載,而一般判斷幫你的網頁為轉載,那么搜索引擎一般會從三個時間段來刪除你的網頁:
(1)抓取頁面的時候刪除,這樣可以減少搜索引擎帶寬以及減少存儲數量;
(2)收錄之后刪除重復網頁;
(3)用戶檢索時候進行再次刪除;增加準確性,耗費時間;
內容重復的4種類型:
1.如果2篇文章內容和格式上毫無差別,則這種重復叫做“完全重復頁面”
2.如果2篇文章內容相同,但是格式不同,則叫做“內容重復頁面”
3.如果2篇文章有部分重要的內容相同,并且格式相同,則稱為“布局重復頁面”
4.如果2篇文章有部分重要的內容相同,但是格式不同,則稱為“部分重復頁面”
刪除重復網頁對于搜索引擎有很多好處:
1.如果這些重復網頁并從搜索引擎數據庫中去掉,就能節省一部分存儲空間,提高檢索的質量。
2.為了提高網頁的搜集速度,搜索引擎會對以往搜集信息的分析,預先發現重復網頁,在今后的網頁搜集過程中就可以避開這些網頁,這就是為什么總轉載的網站排名不高的原因了。
3.對某個鏡像度較高的網頁,搜索引擎會賦予它較高的優先級,當用戶搜索時就會賦予它較高的權重。
4. 近似鏡像網頁的及時發現有利于改善搜索引擎系統的服務質量,也就是說如果用戶點擊了一個死鏈接,那么可以將用戶引導到一個相同頁面,這樣可以有效的增加用戶的檢索體驗。
通用去重算法框架
對于網頁去重任務,具體可以采取的技術手段五花八門,各有創新和特色,但是如果仔細研究,其實大致都差不多。
上圖給出了通用算法框架的流程圖,對于給定的文檔,首先要通過一定特抽取手段,從文檔中抽取出一系列能夠表征文檔主題內容的特征集合。這一步驟往往有其內在要求,即盡可能保留文檔重要信息,刪除無關信息。之所以要刪除部分信息,主要是從計算速度的角度考慮,一般來說,刪除的信息越多,計算速度會越快。
這就是為什么你想做的關鍵字總沒有排名,反而不想做的關鍵詞卻能排名靠前的原因之一,搜索引擎把它認為不重要的詞語刪除了。