摘要：
使用网络爬虫做数据采集也应该有所不为。国内外关于网络数据保护的法律法规都在不断的制定与完善中，这篇文章主要从道德风险和法律责任两方面来分析爬虫做数据采集所带来的问题。 道德层面： 网络爬虫如果不严格控制网络采集的速度，会对被采集网站服务器造成很重的负担。恶意消耗别人网站的服务器资源，甚至是拖垮别人网 阅读全文
摘要：
如果有大量的百度蜘蛛抓取网站就需要注意了：有可能是其他爬虫伪造百度蜘蛛恶意抓取网站。 如果遇到这种情况，这时候就需要查看日志来确定是不是真正的百度蜘蛛（baidu spider）。搜索引擎蜘蛛、用户访问、爬虫等访问都会留下 User-Agent。 我们可以通过 User-Agent 大概判断是不是百 阅读全文
摘要：
在大数据深入人心的时代，网络数据采集作为网络、数据库与机器学习等领域的交汇点，爬虫技术已经成为满足个性化网络数据需求的最佳实践。 而数据采集采集就需要使用到网络爬虫（Web crawler），网络爬虫也会被称为：网络铲（Web scraper，可类比于考古用的洛阳铲）、网络蜘蛛（Web spider 阅读全文