摘要: Robots Protocol robots 协议,首先了解robots.txt robots.txt 是搜索引擎中访问网站的时候要查看的第一个文件【是一种存放于网站根目录下的ASCII编码的文本文件】,它通常告诉网站搜索引擎的漫游器(又称网络蜘蛛):此网站中的哪些内容是不应该被搜索引擎的漫游其获取 阅读全文
posted @ 2019-09-14 10:34 Roko&Basilisk 阅读(456) 评论(0) 推荐(0) 编辑