教你如何正确识别百度蜘蛛需要做好这两点。

  很多SEO从业人员在刚刚接触这个行业的时候,经常会问——百度蜘蛛是什么?我们可以理解为百度蜘蛛就是用来抓取网站链接的IP,小编经常会听到百度蜘蛛来的太频繁,服务器要被抓爆了,如果你无法识别百度蜘蛛,你怎么知道是百度蜘蛛抓爆的呢?也有出现百度蜘蛛都不来了的情况,还有很多站点想得到百度蜘蛛的IP段,想把IP加入白名单,但无法识别百度IP。

  那如何正确识别百度蜘蛛呢?只需做这两点,就能正确识别百度蜘蛛

  一、查看UA,如果UA都不对,可以直接判断非百度搜索的蜘蛛,目前对外公布过的UA是:

  移动UA:Mozilla/5.0 (Linux;u;Android 4.2.2;zh-cn;) AppleWebKit/534.46
(KHTML,likeGecko) Version/5.1 Mobile Safari/10600.6.3 (compatible;
Baiduspider/2.0; +http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider/2.0;
+http://www.baidu.com/search/spider.html)

  新增渲染UA:

  移动UA:Mozilla/5.0 (iPhone; CPU iPhone OS 9_1 likeMac OS X)
AppleWebKit/601.1.46 (KHTML, like Gecko) Version/9.0 Mobile/13B143 Safari/601.1
(compatible; Baiduspider-render/2.0;
+http://www.baidu.com/search/spider.html)

  PC UA:Mozilla/5.0 (compatible; Baiduspider-render/2.0;
+http://www.baidu.com/search/spider.html)

  二、反查IP

  站长可以通过DNS反查IP的方式判断某只spider是否来自百度搜索引擎。根据平台不同验证方法不同,如linux/windows/os三种平台下的验证方法分别如下:

  (1)、在linux平台下,您可以使用host ip命令反解ip来判断是否来自Baiduspider的抓取。Baiduspider的hostname以
*.baidu.com 或 *.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

  (2)、在windows平台或者IBM OS/2平台下,您可以使用nslookup ip命令反解ip来
判断是否来自Baiduspider的抓取。打开命令处理器 输入nslookup xxx.xxx.xxx.xxx(IP地 址)就能解析ip,
来判断是否来自Baiduspider的抓取,Baiduspider的hostname以*.baidu.com 或*.baidu.jp 的格式命名,非
*.baidu.com 或 *.baidu.jp 即为冒充。

  (3)、 在mac os平台下,您可以使用dig 命令反解ip来 判断是否来自Baiduspider的抓取。打开命令处理器 输入dig
xxx.xxx.xxx.xxx(IP地 址)就能解析ip, 来判断是否来自Baiduspider的抓取,Baiduspider的hostname以
*.baidu.com 或*.baidu.jp 的格式命名,非 *.baidu.com 或 *.baidu.jp 即为冒充。

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/161669.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
优化家优化家订阅用户
上一篇 2022年12月2日 13:23
下一篇 2022年12月2日 13:23

相关推荐

  • 我来分享搜索引擎蜘蛛抓取份额是什么。

    搜索引擎蜘蛛抓取份额是什么?抓取份额是由什么决定的?怎样节省抓取份额?对大中型网站来说,这是个颇为重要的seo问题,有时候会成为网站自然流量的瓶颈,今天我们就一一为大家介绍一下。 强调一下,以下这些概念对百…

    2023年6月9日
    07
  • 我来分享SEO优化中百度蜘蛛的抓取规则。

    做SEO优化的小伙伴对百度搜索引擎和蜘蛛是情有独钟啊,因为目前百度是国内PC端和移动端搜索引擎的老大,当然是希望百度蜘蛛能够更多的抓取网站,只有抓取的页面多了,才有可能获得更好的收录、排名和流量。下面我们…

    2022年12月4日
    01
  • 教你蜘蛛的眼睛看到你的网站。

    杭州网站建设公司小编:努力优化网站是伟大的,但最重要的就是如何搜索引擎看到你的努力。虽然即使是最谨慎的优化并不能保证在搜索结果的顶部位置,如果你的网站制作不遵循基本的搜索引擎优化的真理,那么这个网站…

    2023年6月18日
    01
  • 我来教你CDN加速会影响蜘蛛抓取吗。

    从搜索抓取机制上讲:Baiduspider3对站点的抓取方式和普通用户访问一样,只要普通用户能访问到的内容,我们就能抓取到。不管是用什么技术,只要能保证用户能流畅的访问网站,对搜索引擎就没有影响。而缓存技术提升…

    2023年6月22日
    07
  • 小编教你SEO优化中需要注意的蜘蛛陷阱。

    对于陷阱这个词我就不用再过多解释什么了,因为大家都懂的,没有谁会主动跳进陷阱,之所以有时会陷入其中,往往是遭到了别人的暗算,一旦碰到这样的情况相信不管是谁都会生气恼火。其实搜索引擎蜘蛛也跟人一样,如…

    2023年6月27日
    04
  • 小编教你SEO中外链要怎么做。

    “内容为王,外链为皇”,下面我们说说SEO中外链要怎么做。一、广发外链总所周知,发外链是为了引蜘蛛来抓取我们网站.到各大外链平台发布自己的高质量外链,留下链接引导蜘蛛进入你的网站.发外链要找相关性的外链平台,…

    2023年3月9日
    01
  • 小编教你专业SEO技术:蜘蛛spider的抓取方式。

    对于搜索引擎来说,要抓取互联网上所有的网页几乎是不可能的。那么蜘蛛是怎么抓取的呢?今天我们就继续来讨论:搜索引擎的工作原理还有哪些?一起来看看! 从目前公布的数据来看,容量最大的搜索引擎也不过是抓取了整…

    2023年6月20日
    02
  • 我来分享蜘蛛池,对SEO有什么影响。

    蜘蛛池,对SEO有什么影响? 从目前来看,类似的蜘蛛池,对网站收录具有一定的作用,但效果并不是十分明显,这取决于整个蜘蛛池搭建与运营的时间,如果seo优化时间相对较长,对于后期提交的URL,其实很难保证有效收录…

    2022年11月14日
    02

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息