2010年7月23日
转载网络爬虫项目
摘要： Heritrix Heritrix是一个开源，可扩展的web爬虫项目。Heritrix设计成严格按照robots.txt文件的排除指示和META robots标签。WebSPHINX WebSPHINX是一个Java类包和Web爬虫的交互式开发环境。Web爬虫(也叫作机器人或蜘蛛)是可以自动浏览与处理Web页面的程序。WebSPHINX由两部分组成：爬虫工作平台和WebSPHINX类包。WebLe... 阅读全文
posted @ 2010-07-23 22:33 规格严格-功夫到家 阅读(433) 评论(0) 推荐(0) 编辑