设置robots.txt不让搜索引擎抓取

禁止所有搜索引擎访问网站的任何部分 

 

User-agent: *
Disallow: /  

 

           

 

在网站根目录下http://根目录域名/robots.txt     txt中的内容为以上， 。

 

单独屏蔽百度的

User-agent: baiduspider
Disallow: /

 

更多扩展内容