【英文网站SEO】robots对SEO重要性_seo黑帽手法有哪些_【英文网站SEO】robots对SEO重要性很多优化新手不知道怎么用robots,甚至不明白robots文件到底是为何物，很多网站就是没有设置好这个文件导致了排名不理想，因此这个文件对网站优化是非常重要

　　【英文网站SEO】robots对SEO重要性

　　很多优化新手不知道怎么用robots,甚至不明白robots文件到底是为何物，很多网站就是没有设置好这个文件导致了排名不理想，因此这个文件对网站优化是非常重要的，以下就是详细介绍：

　　【英文网站SEO】robots对SEO重要性

一、robots文件是什么

　　这个文件是一种协议,所有的搜索引擎蜘蛛进入网站的时候第一个访问的就是这个文件，具体的作用就是用来自由设置哪些文件可以抓取，哪些不能抓取。

二、robots文件设置的格式：

　　User-agent：定义搜索引擎的类型；

　　Crawl-delay：定义抓取延迟

　　Disallow：定义禁止搜索引擎收录的地址

　　Allow：定义允许搜索引擎收录的地址

三、为什么robots非常重要

　　1.网站优化【英文网站SEO】切忌的就是重复页面，但是不少人没有重视，现在的主流网站程序都很容易自动产生一些没用的页面，比如缓存页面，搜索页面，等等，这些页面内容往往和主体内容相重复，而且没有什么用，如果被蜘蛛抓到，那么对网站排名会有非常严重的负面影响。

　　2.搜索引擎喜欢原创内容，而这一方面并不是单单是指文章的原创度，另一方面网站模板的原创度也是非常重要的评分点，所以如果自己网站的模板不是原创，最好要屏蔽css目录和模板目录。

　　3.利用robots文件可以用来屏蔽一些没有用的页面，比如隐私页面，后台登陆页面，图片目录等内容。

　　4.可以大大的增强蜘蛛网站的爬取效率，帮助搜索引擎理解哪些才是网站最重要的内容，不再浪费到其它的那些无用的页面上。