百度爬网对淘宝的测试

昨天看了看3B(360VS百度)大战的八卦

百度有说360违反robots.txt准则抓取百度知道的页面

听说淘宝不让百度抓取,我就测试了一下

显然百度也不是好鸟,哈哈。

图的上面部分中,在天猫的robots.txt中明确禁止百度蜘蛛爬取的

下面是从百度搜索到的天猫的内容,而且有快照。

posted @ 2013-11-20 16:47  Brian Tan  阅读(207)  评论(0编辑  收藏  举报