2015年7月16日
crawler_http关闭连接
摘要： 1：ps aux|grep Spider4Test.jar查看端口2： lsof -p [端口号]在爬虫运行期间如果看到 大量的TIME_WAIT WAIT_CLOSE 说明请求关闭阻塞【采用httpclient默认方法 ，其实没有关闭掉，需要跑等3分钟 才会关闭】 大量并发时 会有阻塞3： 解决... 阅读全文
posted @ 2015-07-16 12:24 cphmvp 阅读(237) 评论(0) 推荐(0) 编辑
爬虫在线测试小工具： http://tool.haoshuju.cn/