Python爬虫入门
1.什么是爬虫?
Python爬虫即使用 Python 程序开发的网络爬虫(网页蜘蛛,网络机器人),是一种按照一定的规则,自动地抓取万维网信息的程序或者脚本。另外一些不常使用的名字还有蚂蚁、自动索引、模拟程序或者蠕虫。其实通俗的讲就是通过程序去获取 web 页面上自己想要的数据,也就是自动抓取数据。
2.爬虫的本质是什么?
模拟浏览器打开网页,获取网页中我们想要的那部分数据。
3.爬虫可以做什么?
你可以用爬虫爬图片,爬取视频等等你想要爬取的数据,只要你能通过浏览器访问的数据都可以通过爬虫获取。
4.开发工具选择
IDLE 自带的,常用的,入门级
Notepad++
Sublime Text 专业编程体验
Eclipse 需要一定开发经验
5.爬虫的规则
根据自身情况遵守Robots协议,不能用于商业利益。
实例:
import requests ur1 = "https: / /item. jd. com/2967929. html" try : r = requests .get (url) r. raise_for_status () r . encoding = r . apparent_ encoding print (r. text[ : 1000] ) except : print ("爬取失敗")
结果: