会员
周边
众包
新闻
博问
闪存
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
只是向上走
采菊东篱下,悠然见南山。
博客园
首页
新随笔
联系
管理
订阅
2009年7月8日
如何写网站的robots.txt和meta name robots的配置
摘要: robots.txt基本介绍robots.txt是一个纯文本文件,在这个文件中网站管理者可以声明该网站中不想被robots访问的部分,或者指定搜索引擎只收录指定的内容。当一个搜索机器人(有的叫搜索蜘蛛)访问一个站点时,它会首先检查该站点根目录下是否存在robots.txt,如果存在,搜索机器人就会按照该文件中的内容来确定访问的范围;如果该文件不存在,那么搜索机器人就沿着链接抓取。另外,robots...
阅读全文
posted @ 2009-07-08 13:43 jes.shaw
阅读(330)
评论(0)
推荐(0)
编辑