设置robots.txt不让搜索引擎抓取

禁止所有搜索引擎访问网站的任何部分 

User-agent: *
Disallow: /  

           

在网站根目录下http://根目录域名/robots.txt     txt中的内容为以上， 。

单独屏蔽百度的

User-agent: baiduspider
Disallow: /

更多扩展内容