HTTP协议
HTTP协议:
超文本传输协议(HTTP,HyperText Transfer Protocol)是互联网上应用最为广泛的一中网络协议。
HTTP协议,是一个通信规则,通信的客户端和服务端,在通信的时候,都遵循同一种HTTP规则,就像是电报那样,服务端以HTTP协议编写数据发送给客户端,客户端接收数据后就遵守HTTP协议来解析服务端发送的数据内容。
客户端发送给服务器的格式叫“请求协议”;服务器发送给客户端的格式叫“响应协议”。
特点:
- HTTP叫超文本传输协议,基于请求/响应模式的!
- HTTP是无状态协议。(多次相同请求之间是相互独立的)
URL:统一资源定位符,就是一个网址:协议名://域名:端口/路径。
1、请求协议
服务器发送请求到客户端的过程会发送给客户端以下数据:
请求首行:请求方式: GET/POST ;请求协议,版本
GET / HTTP/1.1
请求头信息:类似于字典的键值队来组合起来的数据 Host: 127.0.0.1:8080 //URL的地址 Connection: keep-alive //通信链接方式,常链接,一般等待3000ms再断开 Upgrade-Insecure-Requests: 1
User-Agent: Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_4) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/60.0.3112.78 Safari/537.36
//操作系统,浏览器的厂商信息,一般可以通过它来反爬虫
Accept: text/html,application/xhtml+xml,application/xml;q=0.9,image/webp,image/apng,*/*;q=0.8 //请求报头域,浏览器可解析的数据类型 Accept-Encoding: gzip, deflate, br //编解码,压缩
Referer:http://www.baidu.com/ //这个在我们通过百度搜索进入此网站时,会记录在转接网站的地址,如果直接输入网址,就不会出现这个Referer的字段。
Cookie: JSESSIONID=369766FDF6220F7803433C0B2DE36D98 //因为不是第一次访问这个地址,所以会在请求中把上一次服务器响应中发送过来的Cookie在请求中一并发送去过;
这个Cookie的名字为JSESSIONID,无论是否登录,都会对访问的用户设置cookie
ccept-Language: zh-CN,zh;q=0.8 //浏览器现在支持的语言,如果没有这个默认支持所有语言
请求空行:用来分开请求头信息与请求体
请求体:GET没有请求体,只有POST有请求体。
Content-Type: application/x-www-form-urlencoded //表单的数据类型,说明会使用url格式编码数据;url编码的数据都是以“%”为前缀,后面跟随两位的16进制。
Content-Length:13 //请求体的长度,这里表示13个字节。
keyword=hello //请求体内容!hello是在表单中输入的数据,keyword是表单字段的名字。
GET请求:
HTTP默认的请求方法是GET:
1、没有请求体;
2、数据必须在1K之内;
3、GET请求数据会暴露在浏览器的地址栏中。
GET请求常用的操作:
1. 在浏览器的地址栏中直接给出URL,那么就一定是GET请求
2. 点击页面上的超链接也一定是GET请求
3. 提交表单时,表单默认使用GET请求,但可以设置为POST
POST请求:
1、数据不会出现在地址栏中;
2、数据的大小没有上限;
3、有请求体;
4、请求体中如果存在中文,会使用URL编码。
为什么使用URL编码:
我们都知道Http协议中参数的传输是"key=value"这种简直对形式的,如果要传多个参数就需要用“&”符号对键值对进行分割。如"?name1=value1&name2=value2",这样在服务端在收到这种字符串的时候,会用“&”分割出每一个参数,然后再用“=”来分割出参数值。
6E616D6531 3D 76616C756531 26 6E616D6532 3D 76616C756532。 6E616D6531:name1 3D:= 76616C756531:value1 26:& 6E616D6532:name2 3D:= 76616C756532:value2
针对“name1=value1&name2=value2”我们来说一下客户端到服务端的概念上解析过程:
上述字符串在计算机中用ASCII吗表示为:
服务端在接收到该数据后就可以遍历该字节流,首先一个字节一个字节读取,当读取到3D这字节后,服务端就知道前面的字节表示一个key,再向后继续,如果遇到26,说明从刚才读取的3D到26子节之间的是上一个key的value,以此类推就可以解析出客户端传过来的参数。
现在有这样一个问题,如果我的参数值中就包含=或&这种特殊字符的时候该怎么办。
比如说“name1=value1”,其中value1的值是“va&lu=e1”字符串,那么实际在传输过程中就会变成这样“name1=va&lu=e1”。我们的本意是就只有一个键值对,但是服务端会解析成两个键值对,这样就产生了歧义。
如何解决上述问题带来的歧义呢?
解决的办法就是对参数进行URL编码 :
URL编码只是简单的在特殊字符的各个字节前加上%,例如,我们对上述会产生奇异的字符进行URL编码后结果:“name1=va%26lu%3D”,这样服务端会把紧跟在“%”后的字节当成普通的字节,就是不会把它当成各个参数或键值对的分隔符。
HTTP无状态:
HTTP无状态:无状态是指协议对于事务处理没有记忆能力,服务器不知道客户端是什么状态。从另一方面讲,打开一个服务器上的网页和你之前打开这个服务器上的网页之间没有任何联系,如果你要实现一个购物车,需要借助于Cookie或Session或服务器端API(如NSAPI and ISAPI)记录这些信息,请求服务器结算页面时同时将这些信息提交到服务器,当你登录到一个网站时,你的登录状态也是由Cookie或Session来“记忆”的,因为服务器并不知道你是否登录。
优点:服务器不用为每个客户端连接分配内存来记忆大量状态,也不用在客户端失去连接时去清理内存,以更高效地去处理WEB业务;
缺点:客户端的每次请求都需要携带相应参数,服务器需要处理这些参数。
容易犯的误区:
1、HTTP是一个无状态的面向连接的协议,无状态不代表HTTP不能保持TCP连接,更不能代表HTTP使用的是UDP协议(无连接)
2、从HTTP/1.1起,默认都开启了Keep-Alive,保持连接特性,简单地说,当一个网页打开完成后,客户端和服务器之间用于传输HTTP数据的TCP连接不会关闭,如果客户端再次访问这个服务器上的网页,会继续使用这一条已经建立的连接
3、Keep-Alive不会永久保持连接,它有一个保持时间,可以在不同的服务器软件(如Apache)中设定这个时间
Referer的应用:
Referer请求头是比较有用的一个请求头,它可以用来做统计工作,也可以用来做防盗链。
统计工作:我公司网站在百度上做了广告,但不知道在百度上做广告对我们网站的访问量是否有影响,那么可以对每个请求中的Referer进行分析,如果Referer为百度的很多,那么说明用户都是通过百度找到我们公司网站的。
防盗链:我公司网站上有一个下载链接,而其他网站盗链了这个地址,例如在我网站上的index.html页面中有一个链接,点击即可下载JDK7.0,但有某个人的微博中盗链了这个资源,它也有一个链接指向我们网站的JDK7.0,也就是说登录它的微博,点击链接就可以从我网站上下载JDK7.0,这导致我们网站的广告没有看,但下载的却是我网站的资源。这时可以使用Referer进行防盗链,在资源被下载之前,我们对Referer进行判断,如果请求来自本网站,那么允许下载,如果非本网站,先跳转到本网站看广告,然后再允许下载。
2、响应协议
响应内容:是服务端接收客户端请求后给客户端发送的数据内容,如果说响应内容中有< img >的话,会新开启一个线程进行加载,所以,我们如果访问图片量比较多的网站的话,就会先显示出内容,然后图片一张一张显示出来。