socket之黏包

复制代码
一、黏包成因
1、tcp协议的拆包机制
当发送端缓冲区的长度大于网卡的MTU时,tcp会将这次发送的数据拆成几个数据包发送出去。 
MTU是Maximum Transmission Unit的缩写。意思是网络上传送的最大数据包。MTU的单位是字节。 
大部分网络设备的MTU都是1500。如果本机的MTU比网关的MTU大,大的数据包就会被拆开来传送,
这样会产生很多数据包碎片,增加丢包率,降低网络速度。


2、tcp的合包机制
TCP(transport control protocol,传输控制协议)是面向连接的,面向流的,提供高可靠性服务。
收发两端(客户端和服务器端)都要有一一成对的socket,因此,发送端为了将多个发往接收端的包,更有效的发到对方,
使用了优化方法(Nagle算法),将多次间隔较小且数据量小的数据,合并成一个大的数据块,然后进行封包。
但是这样,接收端,就难于分辨出来了,必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。 
对于空消息:tcp是基于数据流的,于是收发的消息不能为空,这就需要在客户端和服务端都添加空消息的处理机制,防止程序卡住,
而udp是基于数据报的,即便是你输入的是空内容(直接回车),也可以被发送,udp协议会帮你封装上消息头发送过去。 
可靠黏包的tcp协议:tcp的协议数据不会丢,没有收完包,下次接收,会继续上次继续接收,己端总是在收到ack时才会清除缓冲区内容。数据是可靠的,但是会粘包。


3、说明
发送端可以是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据,当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据。
也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),一条消息有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议,这也是容易出现粘包问题的原因。
而UDP是面向消息的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据,这一点和TCP是很不同的。
怎样定义消息呢?可以认为对方一次性write/send的数据为一个消息,需要明白的是当对方send一条信息的时候,无论底层怎样分段分片,TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。


也就是:
用UDP协议发送时,用sendto函数最大能发送数据的长度为:65535- IP头(20) – UDP头(8)=65507字节。用sendto函数发送数据时,如果发送数据长度大于该值,
则函数会返回错误。(丢弃这个包,不进行发送) 

用TCP协议发送时,由于TCP是数据流协议,因此不存在包大小的限制(暂不考虑缓冲区的大小),这是指在用send函数时,数据长度参数不受限制。
而实际上,所指定的这段数据并不一定会一次性发送出去,如果这段数据比较长,会被分段发送,如果比较短,可能会等待和下一次数据一起发送。




例如:
基于tcp的套接字客户端往服务端上传文件,发送时文件内容是按照一段一段的字节流发送的,在接收方看了,根本不知道该文件的字节流从何处开始,在何处结束
此外,发送方引起的粘包是由TCP协议本身造成的,TCP为提高传输效率,发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少,
通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去,这样接收方就收到了粘包数据。



上代码:
服务端:
import socket
sk = socket.socket()
sk.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)
sk.bind(('127.0.0.1',8000))
sk.listen()

conn,addr = sk.accept()
ret = conn.recv(1024)
print(ret.decode('utf-8'))
conn.close()
sk.close()


客户端:
import socket
sk = socket.socket()
sk.connect(('127.0.0.1',8000))
sk.send(b'hello,')
sk.send(b'world,')
sk.send(b'hi')
sk.close()


结果:
hello,world,hi

解释:
正常来说,一个send必须对应一个recv,
但是我们都知道python程序是由上至下执行的,那么:
sk.send(b'hello,')
sk.send(b'world,')
sk.send(b'hi')
上面这三句代码几乎在一瞬间就执行了,而由于要发送的数据很小,而且是时间间隔很短,
发送方就会把这几条数据合成一条数据,再发送过去,在接收端其实收到的就是一次传来的数据,
所以这个时候三次send,对应一次recv,这就是黏包。


4、总结
黏包现象只发生在tcp协议中:
1.从表面上看,黏包问题主要是因为发送方和接收方的缓存机制、tcp协议面向流通信的特点。
2.实际上,主要还是因为接收方不知道消息之间的界限,不知道一次性提取多少字节的数据所造成的


合包现象
    数据很短
    时间间隔短
拆包现象
    大数据会发生拆分
    不会一次性的全部发送到对方
    对方在接受的时候很可能没有办法一次性接收到所有的信息
    那么没有接受完的信息很可能和后面的信息黏在一起
粘包现象只发生在tcp协议
    tcp协议的传输 是 流式传输
    每一条信息与信息之间是没有边界的

udp协议中是不会发生粘包现象的
    适合短数据的发送
    不建议你发送过长的数据
    数据过长会增大你数据丢失的几率

在程序中会出现粘包:收发数据的边界不清晰
接收数据这一端不知道要接收数据的长度到底是多少





二、黏包解决方案
1、解决方案一
问题的根源在于,接收端不知道发送端将要传送的字节流的长度,所以解决粘包的方法就是围绕,如何让发送端在发送数据前,
把自己将要发送的字节流总大小让接收端知晓,然后接收端来一个死循环接收完所有数据。

就是说:
如果你要发送一个数据----hello,它是5个字节的,
你在接收端设置了只接收5个字节,那么就算发生黏包也没关系,
因为你只接收了5个字节,黏在一起的剩下的数据也就没有读取到了。
send(b'hello')   ----->   recv(5)

那么我们就有了一个思路,就是在发送消息的时候,我们主动告诉接收端我们要发送的数据的长度,
接收端按照接收的长度来接收数据。例如:
发送端:
send(b'5hello')  


接收端:
num = recv(1)  # 代表接收第一个字节,也就是只把长度5接收了
num_len = int(num.decode('utf-8'))  # 把长度的类型转成整型
msg = recv(num_len)  # 按照长度接收数据


代码:
服务端:
import socket
sk = socket.socket()
sk.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)
sk.bind(('127.0.0.1',8001))
sk.listen()

conn,addr = sk.accept()
conn.send(b'5hello')
conn.send(b'2hi')

conn.close()
sk.close()


客户端:
import socket
sk = socket.socket()
sk.connect(('127.0.0.1',8001))

num = sk.recv(1)
num_len = int(num.decode('utf-8'))
msg1 = sk.recv(num_len)
print(msg1)

num2 = sk.recv(1)
num2_len = int(num2.decode('utf-8'))
msg2 = sk.recv(num2_len)
print(msg2)

sk.close()

结果:
hello
hi

但是这样写每次只能接收个位数的数据,我们可以把长度设置成4个长度,即0000-9999
发送端:
send(b'0005hello')  


接收端:
num = recv(4)  # 代表接收前四个字节,也就是只把长度0005接收了
num_len = int(num.decode('utf-8'))  # 把长度的类型转成整型
msg = recv(num_len)  # 按照长度接收数据


但实际中,我们要传的数据往往很大的而这种方式虽然能解决一些问题,但是这样写一次也最多发送9999个字节(大概9.7KB),
那么如果2G的东西就要发送大概21万次循环才能发送完。


补充一个字符串的方法zfill:在左边给字符补0
print('1'.zfill(4))   # 0001



2、解决方案2
首先介绍一个模块struct:该模块可以把一个类型,如数字,转成固定长度(4)的bytes
import struct
ret1 = struct.pack('i',10238976)    # i代表把整型的数据转换成bytes类型的数据
ret2 = struct.pack('i',1)

print(ret1,len(ret1))  # b'\x00<\x9c\x00'  4
print(ret2,len(ret2))  # b'\x01\x00\x00\x00' 4
可以看到:数字10238976转成bytes后,长度为4,数字1转成bytes后,长度也是为4。

num1 = struct.unpack('i',ret1)   # unpack把bytes类型转成第一个参数代表的类型(这里是i,也就是int 整型,但返回的是一个元组)
print(num1)  # (10238976,)  元组
print(num1[0])  # 10238976 取元组的第一个值即可

注意:'i' 所能转换的数字范围是 -2147483648 <= number <= 2147483647 
超出这个范围就会报错,就是不能这样写  struct.pack('i',2147483648)



代码:
服务端:
import socket
import struct
sk = socket.socket()
sk.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1)
sk.bind(('127.0.0.1',8002))
sk.listen()

conn,addr = sk.accept()
while True:
    msg = input('>>>:').encode('utf-8')  # 要发送的内容
    pack_num = struct.pack('i',len(msg))  # 计算内容的长度
    conn.send(pack_num)  
    conn.send(msg)
conn.close()
sk.close()




客户端:
import socket
import struct

sk = socket.socket()
sk.connect(('127.0.0.1',8002))

while True:
    pack_num = sk.recv(4)
    num = struct.unpack('i',pack_num)[0]
    ret = sk.recv(num)
    print(ret.decode('utf-8'))
sk.close()
复制代码

 

posted @ 2018-12-09 17:31  从入门到出师  阅读(818)  评论(0编辑  收藏  举报