http与https
1、HTTP
HTTP:超文本传输协议,默认端口号是80
- 超文本:是指超过文本,不仅限于文本;还包括图片、音频、视频等文件。
- 传输协议:是指使用共用约定的固定格式来传递转换成字符串的超文本内容
2、HTTPS
HTTP + SSL(安全套接字层),即带有安全套接字层的超本文传输协,默认端口号:443
- SSL对传输的内容(超文本,也就是请求体或响应体)进行加密
- 可以打开浏览器访问一个url,右键检查,点击net work,点选一个url,查看http协议的形式。
3、常见状态码
- 200:成功
- 302:跳转,新的url在响应的Location头中给出
- 303:浏览器对于POST的响应进行重定向至新的url
- 307:浏览器对于GET的响应重定向至新的url
- 400:客户端请求有语法错误,不能被服务器所理解。
- 401:请求未经授权,这个状态码必须和 www-authenticate 报头域一起使用。
- 403:资源不可用;服务器理解客户的请求,但拒绝处理它(没有权限)
- 404:找不到该页面
- 500:服务器内部错误
- 503:服务器由于维护或者负载过重未能应答,在响应中可能可能会携带Retry-After响应头;
有可能是因为爬虫频繁访问url,使服务器忽视爬虫的请求,最终返回503响应状态码。
注意:
所有的状态码都不可信,一切以是否从抓包得到的响应中获取到数据为准。
Network中抓包得到的源码才是判断爬虫是否成功的依据,elements中的源码是渲染之后的源码,不能作为判断标准。
4、常用请求方法
- get:请求指定的页面信息,并返回实体主体。
- post:向指定资源提交数据进行处理请求(例如提交表单或者上传文件),数据被包含在请求体中。post 请求可能会导致新的资源的建立或已有资源的修改。
- head:类似于 get 请求,只不过返回的响应中没有具体的内容,用于获取报头。
- put:从客户端向服务器传送的数据取代指定的文档的内容。
- delete:请求服务器删除指定的页面。
5、请求头字段
- Content-Type
- Host (主机和端口号)
- Connection (链接类型)
- Upgrade-Insecure-Requests (升级为HTTPS请求)
- User-Agent (浏览器名称)
- Referer (页面跳转处)
- Cookie (Cookie)
- Authorization(用于表示HTTP协议中需要认证资源的认证信息,如前边web课程中用于jwt认证)
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· ollama系列01:轻松3步本地部署deepseek,普通电脑可用
· 25岁的心里话
· 按钮权限的设计及实现