小白抓虫
小白学爬虫(一)- 之初识爬虫
世界上80%的爬虫是基于Python开发的,学好爬虫技能,可为后续的大数据分析、挖掘、机器学习等提供重要的数据源。
整理这个文档资料希望能对小伙伴有帮助。
什么是爬虫?
网络爬虫(又被称为网页蜘蛛,网络机器人,在FOAF社区中间,更经常的称为网页追逐者),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。
其实通俗的讲就是通过程序去获取web页面上自己想要的数据,也就是自动抓取数据
爬虫可以做什么?
你可以爬去妹子的图片,爬取自己想看看的视频。。等等你想要爬取的数据,只要你能通过浏览器访问的数据都可以通过爬虫获取
爬虫的本质是什么?
模拟浏览器打开网页,获取网页中我们想要的那部分数据
浏览器打开网页的过程:
当你在浏览器中输入地址后,经过DNS服务器找到服务器主机,向服务器发送一个请求,服务器经过解析后发送给用户浏览器结果,包括html,js,css等文件内容,浏览器解析出来最后呈现给用户在浏览器上看到的结果
所以用户看到的浏览器的结果就是由HTML代码构成的,我们爬虫就是为了获取这些内容,通过分析和过滤html代码,从中获取我们想要资源(文本,图片,视频.....)
</div>
<div class="postDesc">posted @ <span id="post-date">2018-01-26 14:23</span> <a href="http://www.cnblogs.com/alex3714/">金角大王</a> 阅读(<span id="post_view_count">763</span>) 评论(<span id="post_comment_count">0</span>) <a href="https://i.cnblogs.com/EditArticles.aspx?postid=8359303" rel="nofollow">编辑</a> <a href="#" onclick="AddToWz(8359303);return false;">收藏</a></div>
</div>
<script type="text/javascript">var allowComments=true,cb_blogId=214271,cb_entryId=8359303,cb_blogApp=currentBlogApp,cb_blogUserGuid='64e4fae3-b5aa-e411-b908-9dcfd8948a71',cb_entryCreatedDate='2018/1/26 14:23:00';loadViewCount(cb_entryId);var cb_postType=2;</script>
</div><!--end: forFlow -->
</div>
【缅怀】传奇谢幕,回顾霍金76载传奇人生
【推荐】业界最快速.NET数据可视化图表组件
【腾讯云】买域名送解析+SSL证书+建站
【活动】2050 科技公益大会 - 年青人因科技而团聚
· 拥有世界最宝贵工作经验的人:专访谷歌无人车前负责人厄尔姆森
· 刘强东发布全员信:价值观升级 推出更高规格准则
· 微信支付发布无人零售解决方案:社交活跃度暗藏消费能力的密码
· 一文读懂携程退票风波:从“我司不存在相关问题”到公开致歉
· Go语言1.9.5和1.10.1发布
» 更多新闻...
· 和程序员谈恋爱
· 学会学习
· 优秀技术人的管理陷阱
· 作为一个程序员,数学对你到底有多重要