会员
周边
众包
新闻
博问
闪存
赞助商
Chat2DB
所有博客
当前博客
我的博客
我的园子
账号设置
简洁模式
...
退出登录
注册
登录
碧海蓝天
今朝有酒今朝醉 明日无茶明日醒
博客园
首页
新随笔
新文章
联系
订阅
管理
2009年10月28日
如何判断搜索引擎机器人(蜘蛛)有没有爬行你的站点?
摘要: 在USER_AGENT中,有相应的字符串可以判断是否是搜索引擎机器人来查找你公司的网站:Google的机器人:包含"Googlebot"的字符Baidu的机器人:包含"Baiduspider"的字符Yahoo!的机器人:包含"Yahoo! Slurp"的字符msn的机器人:包含"msnbot"的字符Soso的机器人:包含"Sosospider"的字符Sogou的机器人:包含"Sogou web s...
阅读全文
posted @ 2009-10-28 18:46 碧海蓝天
阅读(1860)
评论(0)
推荐(0)
编辑