為用戶創(chuàng)造價(jià)值的開發(fā)公司

始終追求工匠精神,是您靠譜的H5開發(fā)、小程序開發(fā)、微信開發(fā)供應(yīng)商

藍(lán)暢首頁 >> 動(dòng)態(tài)

教您正確識(shí)別百度蜘蛛

時(shí)間:2019-07-20 00:00:00 | 來源:

原文地址:https://ziyuan.baidu.com/college/articleinfo?id=1295


經(jīng)常聽到站長(zhǎng)們問,百度蜘蛛是什么?最近百度蜘蛛來的太頻繁服務(wù)器抓爆了,最近百度蜘蛛都不來了怎么辦,還有很多站點(diǎn)想得到百度蜘蛛的IP段,想把IP加入白名單,但I(xiàn)P不固定,百度無法對(duì)外公布。

那怎么才能識(shí)別正確的百度蜘蛛呢?來來來,只需兩步,教你正確識(shí)別百度蜘蛛

1、查看UA,如果UA都不對(duì),可以直接判斷非百度搜索的蜘蛛,目前對(duì)外公布過的UA是:


移動(dòng)UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46 (KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)


PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html


新增渲染UA:

移動(dòng)UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X) AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)


PC UA:Mozilla/5.0 (compatible; Baiduspider-render/2.0; +http://www.baidu.com/search/spider.html)


2、反查IP

站長(zhǎng)可以通過DNS反查IP的方式判斷某只spider是否來自百度搜索引擎。根據(jù)平臺(tái)不同驗(yàn)證方法不同,如linux/windows/os三種平臺(tái)下的驗(yàn)證方法分別如下:

1)、在linux平臺(tái)下,您可以使用host ip命令反解ip來判斷是否來自Baiduspider的抓取。Baiduspiderhostname *.baidu.com *.baidu.jp 的格式命名,非 *.baidu.com *.baidu.jp 即為冒充。



2)、在windows平臺(tái)或者IBM OS/2平臺(tái)下,您可以使用nslookup ip命令反解ip 判斷是否來自Baiduspider的抓取。打開命令處理器 輸入nslookup xxx.xxx.xxx.xxxIP 址)就能解析ip 來判斷是否來自Baiduspider的抓取,Baiduspiderhostname*.baidu.com *.baidu.jp 的格式命名,非 *.baidu.com *.baidu.jp 即為冒充。

3)、 在mac os平臺(tái)下,您可以使用dig 命令反解ip 判斷是否來自Baiduspider的抓取。打開命令處理器 輸入dig xxx.xxx.xxx.xxxIP 址)就能解析ip, 來判斷是否來自Baiduspider的抓取,Baiduspiderhostname *.baidu.com *.baidu.jp 的格式命名,非 *.baidu.com *.baidu.jp 即為冒充。



上一篇:服務(wù)器選Linux還是 Windows?

下一篇:最后一頁


本文地址:
更多內(nèi)容推薦:
專欄最新閱讀:
更多文章閱讀請(qǐng)至:技術(shù)專欄
Tips: 為您提供 微信開發(fā)、H5開發(fā)微信小程序開發(fā)、微信定制開發(fā)、網(wǎng)站開發(fā)小程序商城開發(fā)、SEO網(wǎng)站優(yōu)化、視頻后期制作等定制化開發(fā)服務(wù)