网站优化中robots与nofollow的作用是什么?

今天就来谈谈优化:robots作用是什么与nofollow有哪些区别,先来说第一个问题robots作用是什么。
网站优化中robots与nofollow的作用是什么?
robots
robots一般用于站长限制搜索引擎访问页面,所以说robots是网站跟搜索引擎爬虫间的协议,一般站长通过txt文本方式告诉搜索引擎爬虫被允许的权限,一般只要在根域名目录下,未设置目录访问权限的文件爬虫都可以抓取的到,如果网站跟搜索引擎之间没有协议,将使不可预知的大量信息泄露到网上,这不是双方愿意看到的。
robots作用是什么:
1.如果网站改版了,整个文件夹都没有了的时候,这个情况下就要考虑屏蔽掉整个文件夹。我们可以运用robots来对这整个的文件夹进行屏蔽,例如网站里的ab文件夹因改版全都给删掉了,这个时候就可以这样子设置:
User-agent: *
Disallow: /ab/
2.可以利用各种通配符对网站进行相对应的调配,例如我不想网站抓取我的所有图片,这个时候就可以运用$来进行设置。一般我们常见的图片的格式是BMP�.jpg-w600、GIF、JPEG等格式。这个时候设置就是:
User-agent: *
Disallow: /.bmp$
Disallow: /.jpg-w600$
Disallow: /.gif-w600$
Disallow: /.jpeg-w600$
3.如果你只想某一个搜索引擎抓取你的信息,这个时候就可以用robots进行设置,例如:我只想我的网站被百度这个收录,而不想被别的搜索引擎收录。就可以利用robots进行设置。
User-agent: Baiduspider
Allow:
User-agent: *
Disallow: /
4.还可以利用*来屏蔽掉相关的URL,有些网站不允许搜索引擎抓取动态地址的时候可以利用这个*通配符来进行匹配设置。一般情况下动态URL的有一个特点就是有“?”这个时候我们就可以利用这个特性来进行匹配的屏蔽:
User-agent: *
Disallow: /*?*
5.屏蔽所有的搜索引擎抓取信息,如果你的网站只是你的私密性的网站,不想太多的人知道的话,可以利用robots屏蔽掉所有的搜索引擎,例如你写的私人博客。你就可以把搜索引擎全都屏蔽掉。
robots与nofollow有哪些区别
robots文件是在根目录中的一个txt文本文件,里面用代码语句告诉蜘蛛什么可以抓取,什么不能抓取,从一开始就告诉了蜘蛛:“我有些东西不能让你看,请你自动绕开。”而nofollow属性的链接,意思是告诉蜘蛛这个链接你可以看看,但是跟我网站无关,不要给这个链接权重,这是比较直观的说法。
说得更通俗点robots一开始就告诉蜘蛛我们什么链接不要去抓取,而对于nofollow标签来说,他无法节省我们的蜘蛛资源,连接中加了nofollow标签,蜘蛛还是会抓取这个链接,只是不传递权重,也就是我们的网站不对这个链接传递权重。

本文来自投稿,不代表重蔚自留地立场,如若转载,请注明出处https://www.cwhello.com/39808.html

如有侵犯您的合法权益请发邮件951076433@qq.com联系删除

(0)
优化家优化家订阅用户
上一篇 2022年6月2日 21:32
下一篇 2022年6月2日 21:32

相关推荐

  • 页面优化要从哪五个方面下刀。

           做SEO不仅是内容和外链的增加,还要设计到初期建站时候的网页结构等优化,可以说没有一个好的页面优化,会让SEO困难加倍,那么如何去进行页面优化呢?笔者建议从以下5个方面…

    2022年3月12日
    0180
  • 从整体上来说,企业站应该如何优化。

      一般对于企业站来说,因为网站较小,便于管理,但是因为小,所以跟一些大型网站在进行某些关键词抢词的过程中,劣势比较明显,从整体上来看,虽然企业站“麻雀虽小,五脏俱全”,那么企业站应该如何去进行SEO优化…

    2022年3月12日
    0174
  • 怎么优化单页面网站?单页面网站优化技巧

    单页网站优化很多人不知道怎么下手,其实都是大同小异,我们只要找到优化思路,其实没什么难的,下面简单介绍一下怎么去优化单页面的网站单页网站,简单的理解就是一种结构布局很简单的静态页面网站。因为大多数的…

    2022年6月1日
    0257
  • SEO揭秘之——99%外链都是无效的,真正有用的是那1%。

      外链对SEO来说有多重要?笔者不想再多说什么,这话题谈了没1万也有九千了,很简单的事儿,大家都懂的一个道理:内容为王,外链为皇,这句话涵盖了太多。当然,这里有人就会问,为什么外链做了那么多,好像没什…

    2022年3月12日
    0155
  • 企业网站为何做SEO如此之艰难。

    从事企业seo优化人才越来越少,那么究竟是什么原因导致这样的结果的呢?笔者认为无非下面几点原因: 企业高层不懂seo优化推广的作用多么的巨大 中国现状就是这样,任何先进的观念或者技术总是先通过一线城市的精英…

    2022年3月12日
    0290
  • SEO优化过度有什么表现

    SEO优化过度有什么表现?在SEO的工作过程中,触及到一个“太过SEO优化”的意思,太过SEO优化即是指差错的SEO优化方法,网站进行SEO优化的踪迹过头于显然,以至于让搜寻引擎以为此网站是一个垃圾网站,从…

    2022年6月1日
    0234
  • 如何判断网站关键词是否能产生的价值?

    在做seo优化的过程中,我们要对关键词的价值进行了解,同时对关键词本身的热度就能强度以及网站关键词的质量高低来进行综合性的判断。 关键词所能产生的价值,我们如何计算?第一:竞价关键词。对关键词的竞价价位…

    2022年5月29日
    0220
  • SEO网站title中用什么标点符号连接比较好

    SEO网站title中用什么标点符号连接比较好?几乎是每个想要做好网站优化的站长们,在初次建站时肯定碰到的问题,也即是咱们要运用什么样的标点符号来写网站的title和meta信息?用什么样的分开符来分开重点词?既能做到…

    2022年5月31日
    0423

联系我们

QQ:951076433

在线咨询:点击这里给我发消息邮件:951076433@qq.com工作时间:周一至周五,9:30-18:30,节假日休息