网站优化中robots与nofollow的作用是什么?

今天就来谈谈优化:robots作用是什么与nofollow有哪些区别,先来说第一个问题robots作用是什么。
网站优化中robots与nofollow的作用是什么?
robots
robots一般用于站长限制搜索引擎访问页面,所以说robots是网站跟搜索引擎爬虫间的协议,一般站长通过txt文本方式告诉搜索引擎爬虫被允许的权限,一般只要在根域名目录下,未设置目录访问权限的文件爬虫都可以抓取的到,如果网站跟搜索引擎之间没有协议,将使不可预知的大量信息泄露到网上,这不是双方愿意看到的。
robots作用是什么:
1.如果网站改版了,整个文件夹都没有了的时候,这个情况下就要考虑屏蔽掉整个文件夹。我们可以运用robots来对这整个的文件夹进行屏蔽,例如网站里的ab文件夹因改版全都给删掉了,这个时候就可以这样子设置:
User-agent: *
Disallow: /ab/
2.可以利用各种通配符对网站进行相对应的调配,例如我不想网站抓取我的所有图片,这个时候就可以运用$来进行设置。一般我们常见的图片的格式是BMP�.jpg-w600、GIF、JPEG等格式。这个时候设置就是:
User-agent: *
Disallow: /.bmp$
Disallow: /.jpg-w600$
Disallow: /.gif-w600$
Disallow: /.jpeg-w600$
3.如果你只想某一个搜索引擎抓取你的信息,这个时候就可以用robots进行设置,例如:我只想我的网站被百度这个收录,而不想被别的搜索引擎收录。就可以利用robots进行设置。
User-agent: Baiduspider
Allow:
User-agent: *
Disallow: /
4.还可以利用*来屏蔽掉相关的URL,有些网站不允许搜索引擎抓取动态地址的时候可以利用这个*通配符来进行匹配设置。一般情况下动态URL的有一个特点就是有“?”这个时候我们就可以利用这个特性来进行匹配的屏蔽:
User-agent: *
Disallow: /*?*
5.屏蔽所有的搜索引擎抓取信息,如果你的网站只是你的私密性的网站,不想太多的人知道的话,可以利用robots屏蔽掉所有的搜索引擎,例如你写的私人博客。你就可以把搜索引擎全都屏蔽掉。
robots与nofollow有哪些区别
robots文件是在根目录中的一个txt文本文件,里面用代码语句告诉蜘蛛什么可以抓取,什么不能抓取,从一开始就告诉了蜘蛛:“我有些东西不能让你看,请你自动绕开。”而nofollow属性的链接,意思是告诉蜘蛛这个链接你可以看看,但是跟我网站无关,不要给这个链接权重,这是比较直观的说法。
说得更通俗点robots一开始就告诉蜘蛛我们什么链接不要去抓取,而对于nofollow标签来说,他无法节省我们的蜘蛛资源,连接中加了nofollow标签,蜘蛛还是会抓取这个链接,只是不传递权重,也就是我们的网站不对这个链接传递权重。

本文来自投稿,不代表科技代码立场,如若转载,请注明出处https://www.cwhello.com/39808.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
上一篇 2022年6月2日 21:32
下一篇 2022年6月2日 21:32

相关推荐

  • seo是什么职位。

        俗话说隔行如隔山,经常会有朋友问seo是什么职位?负责什么工作?今天我们就详细的讲解关于seo职位的问题。      1、要了解seo是什么工作首先要了解seo是什么,可以...

    2022年3月12日
    0345
  • seo优化如何选择适合网站的域名?

    1.不要选择会惹上官司的域名域名注册的时候,作为搜索引擎优化人员,一定要注意不要注册其他公司拥有的独特商标名和国际知名企业的商标名。如果选取其他公司独特的商标名作为自己的域名,很可能会惹上身官司,特...

    2022年6月2日
    0297
  • 怎么优化单页面网站?单页面网站优化技巧

    单页网站优化很多人不知道怎么下手,其实都是大同小异,我们只要找到优化思路,其实没什么难的,下面简单介绍一下怎么去优化单页面的网站单页网站,简单的理解就是一种结构布局很简单的静态页面网站。因为大多数...

    2022年6月1日
    0254
  • 为什么有时候原创内容百度不收录

    为什么有时候原创内容百度不收录?信任这个问题很多做SEO的都碰到过,自身写的原创文章搜寻引擎不收录,可是偶尔候自身写的收走录被别的网站复制转载后,别的网站收录了,自身的收走录,这是一个很蛋疼的问题。 1...

    2022年6月1日
    0233
  • SEO前景未来如何。

    展望2013年,互联网行业发生了很大的变化,移动互联网时代的到来,微信,微博的应用,360搜索引擎的快速成长,谷歌的回归,还有百度站长平台及时更新算法的改变,从新的算法我们怎么看SEO的未来?其实这些算法也...

    2022年3月12日
    0326
  • 摒弃对友链的错误认识。

    对于任何一个网站来讲,友情链接都是必不可少的,因为友链的这种推荐性较高,所以现在搜索引擎对友链的管理越来越严,所以大家目前在寻找友链的时候,尽量多寻找一些高质量的友链,有些人在寻找友链的时候经常犯...

    2022年3月12日
    0148
  • 友情链接是不是越多越好。

    俗话说的好,外链为皇内容为王,但是任何事情都要有个度,并不是说我们可以无限制的去做友情链接。但是如果不做友情链接的话我们的网站很难得到权重,这样就不会获得好的排名。那我们应该如何做友情链接呢? 百度...

    2022年3月12日
    0185
  • SEOer分享经验会不会让自己无路可走。

      SEO行业在国内兴起不多时,SEO技术知识在行业内传来传去。现在的SEO论坛,好多老生常谈的东西,同一样内容不同人不断的写。不过也有小部分人在真实地分享自己的经验与知识,对这种状况曾被问过:你的经验会被...

    2022年3月12日
    0312

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息