狠狠网/色综合久久久久综合体桃花网/日本护士三aaaaaa/久久久久久综合一区中文字幕

或者

Googlebot 有哪幾種?

作者:徐小樣 瀏覽:162 發布時間:2017-10-17
分享 評論 0

Googlebot 我們一般稱為Google 機器人或Google 探測器。

Google “派遣”了不同的Googlebot 對網頁內容進行獲取。主要包括:

Googlebot:抓取網頁中的文字內容。獲取的內容保存于Google 網頁搜索和新聞搜索的數據庫。我們一般談的Google 機器人主要指這個。

Googlebot-Mobile:抓取網頁中的文字內容,用于Google 手機搜索。

Googlebot-Image:抓取網頁內的圖片內容,保存入Google 圖片搜索數據庫。

Mediapartners-Google:抓取網頁中的文字內容,用于Google Adsense 分析關鍵詞。只有投放了Google Adsense 的網頁才會被 Mediapartners-Google 探測器爬取。

Adsbot-Google:抓取網頁中的文字內容,用于為Google AdWords 提供參考。只有Google AdWords  的目標網頁才會被 Adsbot-Google 探測器爬取。

Googlebot 和Mediapartners-Google 是非常勤奮的機器人,如果他們影響到你服務器的承受力,你可以通過 robots.txt 文件加以制止。