黏包
黏包现象：
同时执行多条命令之后，得到的结果可能只有一部分，在执行其他命令的时候又接收之前执行的命令的另外一部结果，这种现象就是黏包。
基于TCP实现的黏包：
import socket sk = socket.socket() sk.bind(('127.0.0.1',9000)) sk.listen() conn,addr = sk.accept() while True: cmd = input('>>>') conn.send(cmd.encode('utf-8')) if cmd == 'q': break ret1 = conn.recv(1024) print('stdout : ', ret1.decode('gbk')) # 操作系统的编码是‘gbk’ ret2 = conn.recv(1024) print('stderr : ',ret2.decode('gbk')) conn.close() sk.close()
import socket import subprocess sk = socket.socket() sk.connect(('127.0.0.1',9000)) while True: cmd = sk.recv(1024).decode('utf-8') print(cmd) if cmd == 'q':break ret = subprocess.Popen(cmd,shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE) out = ret.stdout.read() err = ret.stderr.read() print(out,'*****\n',err) sk.send(b'out :'+out) sk.send(b'error :'+err) sk.close()
基于UDP实现的黏包：
import socket import subprocess sk = socket.socket(type=socket.SOCK_DGRAM) sk.bind(('127.0.0.1',9000)) while True: cmd,addr = sk.recvfrom(1024) # 收消息 print('用户命令：',cmd) res = subprocess.Popen(cmd.decode('utf-8'),shell=True, stdout=subprocess.PIPE, stderr=subprocess.PIPE) stdout = res.stdout.read() stderr = res.stderr.read() sk.sendto(stdout,addr) sk.sendto(stderr,addr) sk.close()
import socket sk = socket.socket(type=socket.SOCK_DGRAM) while True: msg = input('>>>').strip() sk.sendto(msg.encode('utf-8'),('127.0.0.1',9000)) out,addr = sk.recvfrom(1024) err,addr = sk.recvfrom(1024) if err: print('error:%s'% err.decode('gbk')) if out: print('out:%s' % out.decode('gbk'))
注意：只有TCP又黏包现象，UDP永远不会黏包。
UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。
不会使用块的合并优化算法，, 由于UDP支持的是一对多的模式，所以接收端的skbuff(套接字缓冲区）采用了链式结构来记录每一个到达的UDP包，在每个UDP包中就有了消息头（消息来源地址，端口等信息），这样，对于接收端来说，就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头发送过去。
不可靠不黏包的udp协议：udp的recvfrom是阻塞的，一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就算完成,若是y;x数据就丢失，这意味着udp根本不会粘包，但是会丢数据，不可靠。
tcp协议的拆包机制：
当发送端缓冲区的长度大于网卡的MTU时，tcp会将这次发送的数据拆成几个数据包发送出去。
MTU时Maximum Transmission Unit 的缩写。意思是网络上传送的最大数据包，MTU的单位是字节，大部分网络设备的MTU都是1500.如果本机的MTU比网关的MTU大，大的数据包就会拆开来传送，这样会产生很多的数据包碎片，增加丢包率，降低网络速度。
面向流的通信特点和Nagle算法：
TCP（transport control protocol，传输控制协议）是面向连接的，面向流的，提供高可靠性服务。
收发两端（客户端和服务器端）都要有一一成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，使用了优化方法（Nagle算法），将多次间隔较小且数据量小的数据，合并成一个大的数据块，然后进行封包。
这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。 即面向流的通信是无消息保护边界的。
对于空消息：tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），也可以被发送，udp协议会帮你封装上消息头发送过去。
可靠黏包的tcp协议：tcp的协议数据不会丢，没有收完包，下次接收，会继续上次继续接收，己端总是在收到ack时才会清除缓冲区内容。数据是可靠的，但是会粘包。
基于tcp协议特点的黏包现象成因：
发送端可以是一K一K地发送数据，而接收端的应用程序可以两K两K地提走数据，当然也有可能一次提走3K或6K数据，或者一次只提走几个字节的数据。 也就是说，应用程序所看到的数据是一个整体，或说是一个流（stream），一条消息有多少字节对应用程序是不可见的，因此TCP协议是面向流的协议，这也是容易出现粘包问题的原因。 而UDP是面向消息的协议，每个UDP段都是一条消息，应用程序必须以消息为单位提取数据，不能一次提取任意字节的数据，这一点和TCP是很不同的。 怎样定义消息呢？可以认为对方一次性write/send的数据为一个消息，需要明白的是当对方send一条信息的时候，无论底层怎样分段分片，TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。 socket数据传输过程中的用户态与内核态说明
tcp和udp一次发送数据长度的限制：
用UDP协议发送时，用sendto函数最大能发送数据的长度为：65535- IP头(20) – UDP头(8)＝65507字节。用sendto函数发送数据时，如果发送数据长度大于该值，则函数会返回错误。（丢弃这个包，不进行发送）
用TCP协议发送时，由于TCP是数据流协议，因此不存在包大小的限制（暂不考虑缓冲区的大小），这是指在用send函数时，数据长度参数不受限制。而实际上，所指定的这段数据并不一定会一次性发送出去，如果这段数据比较长，会被分段发送，如果比较短，可能会等待和下一次数据一起发送。
会发生黏包的两种情况;
1，发送端需要等缓冲区满才发送出去，造成黏包(发送数据时间间隔很短，数据流很小，和合并到一起，产生黏包)
import socket sk = socket.socket() sk.bind(('127.0.0.1',9000)) sk.listen() conn,addr = sk.accept() msg1 = conn.recv(10) print('---->', msg1.decode('utf-8')) msg2 = conn.recv(10) print('---->',msg2.decode('utf-8')) conn.close() sk.close() # 一个send对应一个recv，如果多个recv对应少的send, # 就会一直堵塞在recv，就不会进行下一步，因为是TCP协议，所以会 # 一直占用资源。
# import time import socket sk = socket.socket() sk.connect_ex(('127.0.0.1',9000)) sk.send('hello'.encode('utf-8')) sk.send('egg'.encode('utf-8')) # time.sleep(10) 用于检验，是否会有阻塞现象。 sk.close()
2，接收方不及时接收缓冲区的包，造成多个包接收(客户端发送了一段数据，服务端只收了一小部分，服务端下次再收的时候，还是从缓冲区拿上次遗留的数据，产生黏包)
import socket sk = socket.socket() sk.bind(('127.0.0.1',9000)) sk.listen() conn,addr = sk.accept() msg1 = conn.recv(2) msg2 = conn.recv(10) print('--->',msg1.decode('utf-8')) # ---> he 一次没有接收完整 print('--->',msg2.decode('utf-8')) # ---> lloegg 在下一次接受的时候会继续接收上次没接收完的。 conn.close() sk.close()
import socket sk = socket.socket() sk.connect(('127.0.0.1',9000)) sk.send('hello'.encode('utf-8')) sk.send('egg'.encode('utf-8')) sk.close()
总结：可以发现，黏包现象只发生在tcp协议中：
1，从表面上看，黏包问题主要是因为发送方和接收方的缓存机制，tcp协议面向流通信的特点。
2，实际上，主要还是因为接受方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的。
黏包的解决方案：
1，问题的根源在于，接收端不知道发送端将要发送的字节流的长度，所以解决黏包的方法就是围绕，如何让发送端在发送数据前，把自己将要发送的字节流总大小让接收端知晓，然后接收端来一个死循环接收完所有数据。
import socket sk = socket.socket() sk.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) sk.bind(('127.0.0.1',9000)) sk.listen() conn,addr = sk.accept() while True: length = conn.recv(1) print(length) length = int(length.decode('utf-8')) msg1 = conn.recv(length) length2 = conn.recv(1) length2 = int(length2.decode('utf-8')) msg2 = conn.recv(length2) print('--->',msg1.decode('utf-8')) print('--->',msg2.decode('utf-8')) conn.close() sk.close()
import socket sk = socket.socket() sk.connect(('127.0.0.1',9000)) while True: length = str(len('hello')).encode('utf-8') sk.send(length) sk.send('hello'.encode('utf-8')) length = str(len('egg')).encode('utf-8') sk.send(length) sk.send('egg'.encode('utf-8')) sk.close()
解决方案的进阶：
stuct模块：可以把一个类型，如数字，转成固定长度的bytes.
>>> struct.pack('i',1111111111111) struct.error: 'i' format requires -2147483648 <= number <= 2147483647 #这个是范围
import socket import struct sk = socket.socket() sk.setsockopt(socket.SOL_SOCKET,socket.SO_REUSEADDR,1) sk.bind(('127.0.0.1',9000)) sk.listen() conn,addr = sk.accept() while True: ret = conn.recv(4) length = struct.unpack('i',ret)[0] print(struct.unpack('i',ret)) # 返回的是一个元祖形式的数据类型(11,) msg = conn.recv(length) print(msg.decode('utf-8')) conn.close()
import socket import struct sk = socket.socket() sk.connect(('127.0.0.1',9000)) while True: msg = 'hello world' length = struct.pack('i',len(msg)) sk.send(length) sk.send(msg.encode('utf-8')) sk.close()
