摘要: 目前网络上有不少开源的网络爬虫可供我们使用,爬虫里面做的最好的肯定是google ,不过google公布的蜘蛛是很早的一个版本,下面是几种开源的网络爬虫的简单对比表:下面我们再对Nutch、Larbin、Heritrix这三个爬虫进行更细致的比较:Nutch开发语言:Javahttp://lucene.apache.org/nutch/简介:Apache的子项目之一,属于Lucene项目下的子项目。Nutch是一个基于Lucene,类似Google的完整网络搜索引擎解决方案,基于Hadoop的分布式处理模型保证了系统的性能,类似Eclipse的插件机制保证了系统的可客户化,而且很容易集成到自己 阅读全文
posted @ 2012-10-24 23:27 76er 阅读(58306) 评论(8) 推荐(3) 编辑