python---网络编程
一 概述
1.1 计算机网络
计算机网络顾名思义就是多台独立的计算机用网络通信设备连接起来的网络,实现资源共享和数据传递。我们之前学过的知识可以将D盘的一个文件传递到C盘,但是如果你想从你的电脑上传一个文件到我的电脑上,目前是做不到的。而网络编程的出现就可以解决上述问题。
1.1.1 OSI模型
OSI模型定义了不同计算机互联的标准,是设计和描述计算机网络通信的基本框架。OSI模型把网络通信的工作分为7层,分别是物理层、数据链路层、网络层、传输层、会话层、表示层和应用层。
1.1.2 网络通信的三要素
IP地址
- 用来标识网络上一台独立的主机
- IP地址 = 网络地址 + 主机地址(网络号:用于识别主机所在的网络/网段。主机号:用于识别该网络中的主机)
- 特殊的IP地址:127.0.0.1(本地回环地址、保留地址,点分十进制)可用于简单的测试网卡是否故障。表示本机。
端口号
- 用于标识进程的逻辑地址。不同的进程都有不同的端口标识。
- 端口:要将数据发送到对方指定的应用程序上,为了标识这些应用程序,所以给这些网络应用程序都用数字进行标识。为了方便称呼这些数字,则将这些数字称为端口。(此端口是一个逻辑端口)
传输协议
- 通讯的规则。例如:TCP、UDP协议(好比两个人得用同一种语言进行交流)
UDP(User Datagram Protocol):用户数据报协议的特点:
- 面向无连接:传输数据之前源端和目的端不需要建立连接。
- 每个数据报的大小都限制在64K(8个字节)以内。
- 面向报文的不可靠协议。(即:发送出去的数据不一定会接收得到)
- 传输速率快,效率高。
- 现实生活实例:邮局寄件、实时在线聊天、视频会议…等。
TCP(Transmission Control Protocol):传输控制协议的特点:
- 面向连接:传输数据之前需要建立连接。
- 在连接过程中进行大量数据传输。
- 通过“三次握手”的方式完成连接,是安全可靠协议。
- 传输速度慢,效率低。
注意:在TCP/IP协议中,TCP协议通过三次握手建立一个可靠的连接,生活中的例子如下:
# “我能给你讲个关于tcp的笑话吗?” # “行,给我讲个tcp笑话.” # “好吧,那我就给你讲个tcp笑话.”
1.1.3 网络通信的步骤
确定对端IP地址→ 确定应用程序端口 → 确定通讯协议
总结:网络通讯的过程其实就是一个(源端)不断封装数据包和(目的端)不断拆数据包的过程。简单来说就是:发送方利用应用软件将上层应用程序产生的数据前后加上相应的层标识不断的往下层传输(封包过程),最终到达物理层通过看得见摸得着的物理层设备,例如:网线、光纤…等将数据包传输到数据接收方,然后接收方则通过完全相反的操作不断的读取和去除每一层的标识信息(拆包过程),最终将数据传递到最高层的指定的应用程序端口,并进行处理。
1.2 网络编程
通过某种计算机语言来实现不同设备间的资料共享和信息传递。
二 SOCKET编程
2.1 初识socket
要想理解socket,就要先来理解TCP,UDP协议
TCP/IP(Transmission Control Protocol/Internet Protocol)即传输控制协议/网间协议,定义了主机如何连入因特网及数据如何再它们之间传输的标准,
从字面意思来看TCP/IP是TCP和IP协议的合称,但实际上TCP/IP协议是指因特网整个TCP/IP协议族。不同于ISO模型的七个分层,TCP/IP协议参考模型把所有的TCP/IP系列协议归类到四个抽象层中
应用层:TFTP,HTTP,SNMP,FTP,SMTP,DNS,Telnet 等等
传输层:TCP,UDP
网络层:IP,ICMP,OSPF,EIGRP,IGMP
数据链路层:SLIP,CSLIP,PPP,MTU
每一抽象层建立在低一层提供的服务上,并且为高一层提供服务,看起来大概是这样子的
我们可以利用ip地址+协议+端口号唯一标示网络中的一个进程。能够唯一标示网络中的进程后,它们就可以利用socket进行通信了,我们经常把socket翻译为套接字,socket是在应用层和传输层(TCP/IP协议族通信)之间的一个抽象层,是一组接口,它把TCP/IP层复杂的操作抽象为几个简单的接口供应用层调用已实现进程在网络中通信。
应用程序两端通过“套接字”向网络发出请求或者应答网络请求。可以把socket理解为通信的把手(hand)
socket起源于UNIX,在Unix一切皆文件哲学的思想下,socket是一种"打开—读/写—关闭"模式的实现,服务器和客户端各自维护一个"文件",在建立连接打开后,可以向自己文件写入内容供对方读取或者读取对方内容,通讯结束时关闭文件。socket的英文原义是“插槽”或“插座”,就像我们家里座机一样,如果没有网线的那个插口,电话是无法通信的。Socket是实现TCP,UDP协议的接口,便于使用TCP,UDP。
2.2 socket通信流程
流程描述:
1 服务器根据地址类型(ipv4,ipv6)、socket类型、协议创建socket
2 服务器为socket绑定ip地址和端口号
3 服务器socket监听端口号请求,随时准备接收客户端发来的连接,这时候服务器的socket并没有被打开
4 客户端创建socket
5 客户端打开socket,根据服务器ip地址和端口号试图连接服务器socket
6 服务器socket接收到客户端socket请求,被动打开,开始接收客户端请求,直到客户端返回连接信息。这时候socket进入阻塞状态,所谓阻塞即accept()方法一直等到客户端返回连接信息后才返回,开始接收下一个客户端连接请求
7 客户端连接成功,向服务器发送连接状态信息
8 服务器accept方法返回,连接成功
9 客户端向socket写入信息(或服务端向socket写入信息)
10 服务器读取信息(客户端读取信息)
11 客户端关闭
12 服务器端关闭
2.3 相关方法及参数介绍
sk.bind(address) #s.bind(address) 将套接字绑定到地址。address地址的格式取决于地址族。在AF_INET下,以元组(host,port)的形式表示地址。 sk.listen(backlog) #开始监听传入连接。backlog指定在拒绝连接之前,可以挂起的最大连接数量。 #backlog等于5,表示内核已经接到了连接请求,但服务器还没有调用accept进行处理的连接个数最大为5 #这个值不能无限大,因为要在内核中维护连接队列 sk.setblocking(bool) #是否阻塞(默认True),如果设置False,那么accept和recv时一旦无数据,则报错。 sk.accept() #接受连接并返回(conn,address),其中conn是新的套接字对象,可以用来接收和发送数据。address是连接客户端的地址。 #接收TCP 客户的连接(阻塞式)等待连接的到来 sk.connect(address) #连接到address处的套接字。一般,address的格式为元组(hostname,port),如果连接出错,返回socket.error错误。 sk.connect_ex(address) #同上,只不过会有返回值,连接成功时返回 0 ,连接失败时候返回编码,例如:10061 sk.close() #关闭套接字 sk.recv(bufsize[,flag]) #接受套接字的数据。数据以字符串形式返回,bufsize指定最多可以接收的数量。flag提供有关消息的其他信息,通常可以忽略。 sk.recvfrom(bufsize[.flag]) #与recv()类似,但返回值是(data,address)。其中data是包含接收数据的字符串,address是发送数据的套接字地址。 sk.send(string[,flag]) #将string中的数据发送到连接的套接字。返回值是要发送的字节数量,该数量可能小于string的字节大小。即:可能未将指定内容全部发送。 sk.sendall(string[,flag]) #将string中的数据发送到连接的套接字,但在返回之前会尝试发送所有数据。成功返回None,失败则抛出异常。 #内部通过递归调用send,将所有内容发送出去。 sk.sendto(string[,flag],address) #将数据发送到套接字,address是形式为(ipaddr,port)的元组,指定远程地址。返回值是发送的字节数。该函数主要用于UDP协议。 sk.settimeout(timeout) #设置套接字操作的超时期,timeout是一个浮点数,单位是秒。值为None表示没有超时期。一般,超时期应该在刚创建套接字时设置,因为它们可能用于连接的操作(如 client 连接最多等待5s ) sk.getpeername() #返回连接套接字的远程地址。返回值通常是元组(ipaddr,port)。 sk.getsockname() #返回套接字自己的地址。通常是一个元组(ipaddr,port) sk.fileno() #套接字的文件描述符
2.4 实例
(1)server端与client端的简单通信
为了简单模拟,我将两个不同的py文件当做两个不同的客户端。实际情况下程序里边的ip_port不同
import socket ip_port = ('127.0.0.1',9997) sk = socket.socket() #将套接字(sk)绑定到地址。address地址的格式取决于地址族。在AF_INET下,以元组(host,port)的形式表示地址。 sk.bind(ip_port) sk.listen(5) print ('server waiting...') conn,addr = sk.accept() client_data = conn.recv(1024) print (str(client_data,"utf8")) inp=input(">>>:") conn.sendall(bytes(inp,encoding="utf-8"))
import socket ip_port = ('127.0.0.1',9997) sk = socket.socket() sk.connect(ip_port) inp=input(">>>:") sk.sendall(bytes(inp,encoding="utf8")) server_reply = sk.recv(1024) print (str(server_reply,"utf8"))
server端 server waiting... 我喜欢你 #从client收到的信息 >>>:滚 #server端发送的信息 client端 >>>:我喜欢你 #从client端发送的信息 滚 #server端接收的信息 注:socket的关键:一发一收
(2)上述的(1)执行一次就结束了,本次加入循环操作。
import socket ip_port = ('127.0.0.1',8888) sk = socket.socket() sk.bind(ip_port) sk.listen(2) print ("服务端启动...") conn,address = sk.accept() while True: client_data=conn.recv(1024) if str(client_data,"utf8")=='exit': break print (str(client_data,"utf8")) server_response=input(">>>:") conn.sendall(bytes(server_response,"utf8")) conn.close()
import socket ip_port = ('127.0.0.1',8888) sk = socket.socket() sk.connect(ip_port) print ("客户端启动:") while True: inp = input('>>>:') sk.sendall(bytes(inp,"utf8")) if inp == 'exit': break server_response=sk.recv(1024) print (str(server_response,"utf8")) sk.close()
客户端启动: >>>:你好 不约,滚 >>>:。。。 ,,, >>>:我喜欢你 我也喜欢我自己 >>>: 服务端启动... 你好 >>>:不约,滚 。。。 >>>:,,, 我喜欢你 >>>:我也喜欢我自己
(3)虽然(2)可以循环一直聊天,可当client端输入exit的时候,不仅client关闭,server端也关闭了,并且如果client端异常关闭,server端直接报错,这不是我们想要的结果。改进版的如下:
import socket ip_port = ('127.0.0.1',8870) sk = socket.socket() sk.bind(ip_port) sk.listen(2) print ("服务端启动...") while True: conn,address = sk.accept() print(address) while True: try: client_data=conn.recv(1024) except: print("意外中断") break print (str(client_data,"utf8")) server_response=input(">>>") conn.sendall(bytes(server_response,"utf8")) conn.close()
import socket ip_port = ('127.0.0.1',8870) sk = socket.socket() sk.connect(ip_port) print ("客户端启动:") while True: inp = input('>>>') if inp == 'exit': break sk.sendall(bytes(inp,"utf8")) server_response=sk.recv(1024) print (str(server_response,"utf8")) sk.close()
客户端启动: >>>hello hello >>>非常高兴认识你 滚 >>>exit Process finished with exit code 0 服务端启动... ('127.0.0.1', 52209) hello >>>hello 非常高兴认识你 >>>滚 >>>
客户端启动: >>>hello 滚 >>> Process finished with exit code -1 服务端启动... ('127.0.0.1', 52291) hello >>>滚 意外中断
(4)并发操作
#-----------------------------------------------------server.py #----------------------------------------------------- import socketserver class MyServer(socketserver.BaseRequestHandler): def handle(self): print ("服务端启动...") while True: conn = self.request print (self.client_address) while True: client_data=conn.recv(1024) print (str(client_data,"utf8")) print ("waiting...") conn.sendall(client_data) conn.close() if __name__ == '__main__': server = socketserver.ThreadingTCPServer(('127.0.0.1',8091),MyServer) server.serve_forever() #-----------------------------------------------------client.py #----------------------------------------------------- import socket ip_port = ('127.0.0.1',8091) sk = socket.socket() sk.connect(ip_port) print ("客户端启动:") while True: inp = input('>>>') sk.sendall(bytes(inp,"utf8")) if inp == 'exit': break server_response=sk.recv(1024) print (str(server_response,"utf8")) sk.close()
import socketserver class MyServer(socketserver.BaseRequestHandler): def handle(self): print ("服务端启动...") while True: conn = self.request print (self.client_address) while True: client_data=conn.recv(1024) print (str(client_data,"utf8")) print ("waiting...") server_response=input(">>>") conn.sendall(bytes(server_response,"utf8")) # conn.sendall(client_data) conn.close() # print self.request,self.client_address,self.server if __name__ == '__main__': server = socketserver.ThreadingTCPServer(('127.0.0.1',8098),MyServer) server.serve_forever() ########################################## import socket ip_port = ('127.0.0.1',8098) sk = socket.socket() sk.connect(ip_port) print ("客户端启动:") while True: inp = input('>>>') sk.sendall(bytes(inp,"utf8")) server_response=sk.recv(1024) print (str(server_response,"utf8")) if inp == 'exit': break sk.close()
2.5其他应用
#------------------------------------------------server #------------------------------------------------ import socket import subprocess ip_port = ('127.0.0.1',8879) sk = socket.socket() sk.bind(ip_port) sk.listen(5) print ("服务端启动...") while True: conn,address = sk.accept() while True: try: client_data=conn.recv(1024) except Exception: break print (str(client_data,"utf8")) print ("waiting...") # server_response=input(">>>") # conn.sendall(bytes(server_response,"utf8")) cmd=str(client_data,"utf8").strip() cmd_call=subprocess.Popen(cmd,shell=True,stdout=subprocess.PIPE) cmd_result=cmd_call.stdout.read() if len(cmd_result)==0: cmd_result=b"no output!" conn.sendall(cmd_result) print('send data size',len(cmd_result)) print('******************') print('******************') print('******************') conn.close() #------------------------------------------------client #------------------------------------------------ import socket ip_port = ('127.0.0.1',8879) sk = socket.socket() sk.connect(ip_port) print ("客户端启动:") while True: inp = input('cdm:>>>').strip( ) if len(inp)==0: continue if inp=="q": break sk.sendall(bytes(inp,"utf8")) server_response=sk.recv(1024) print (str(server_response,"gbk")) print('receive data size',len(server_response)) if inp == 'exit': break sk.close()
注:sendall会把数据直接全部发送到客户端,客户端将所有的数据都放到缓冲区,每次recv多少字节取决于recv内的参数,理论不应该超过8k。所以,并不能一次recv()无限大数据,所以这里我们应该通过循环去接收。
import socketserver import subprocess class Myserver(socketserver.BaseRequestHandler): def handle(self): while True: conn=self.request conn.sendall(bytes("欢迎登录","utf8")) while True: client_bytes=conn.recv(1024) if not client_bytes:break client_str=str(client_bytes,"utf8") print(client_str) command=client_str result_str=subprocess.getoutput(command) result_bytes = bytes(result_str,encoding='utf8') info_str="info|%d"%len(result_bytes) conn.sendall(bytes(info_str,"utf8")) # conn.recv(1024) conn.sendall(result_bytes) conn.close() if __name__=="__main__": server=socketserver.ThreadingTCPServer(("127.0.0.1",9998),Myserver) server.serve_forever() #####################################client import socket ip_port=("127.0.0.1",9998) sk=socket.socket() sk.connect(ip_port) print("客户端启动...") print(str(sk.recv(1024),"utf8")) while True: inp=input("please input:").strip() sk.sendall(bytes(inp,"utf8")) basic_info_bytes=sk.recv(1024) print(str(basic_info_bytes,"utf8")) # sk.send(bytes('ok','utf8')) result_length=int(str(basic_info_bytes,"utf8").split("|")[1]) print(result_length) has_received=0 content_bytes=bytes() while has_received<result_length: fetch_bytes=sk.recv(1024) has_received+=len(fetch_bytes) content_bytes+=fetch_bytes cmd_result=str(content_bytes,"utf8") print(cmd_result) sk.close()
import socket,os ip_port=("127.0.0.1",8898) sk=socket.socket() sk.bind(ip_port) sk.listen(5) BASE_DIR=os.path.dirname(os.path.abspath(__file__)) while True: print("waiting connect") conn,addr=sk.accept() flag = True while flag: client_bytes=conn.recv(1024) client_str=str(client_bytes,"utf8") func,file_byte_size,filename=client_str.split("|",2) path=os.path.join(BASE_DIR,'yuan',filename) has_received=0 file_byte_size=int(file_byte_size) f=open(path,"wb") while has_received<file_byte_size: data=conn.recv(1024) f.write(data) has_received+=len(data) print("ending") f.close() #----------------------------------------------client #---------------------------------------------- import socket import re,os,sys ip_port=("127.0.0.1",8898) sk=socket.socket() sk.connect(ip_port) BASE_DIR=os.path.dirname(os.path.abspath(__file__)) print("客户端启动....") while True: inp=input("please input:") if inp.startswith("post"): method,local_path=inp.split("|",1) local_path=os.path.join(BASE_DIR,local_path) file_byte_size=os.stat(local_path).st_size file_name=os.path.basename(local_path) post_info="post|%s|%s"%(file_byte_size,file_name) sk.sendall(bytes(post_info,"utf8")) has_sent=0 file_obj=open(local_path,"rb") while has_sent<file_byte_size: data=file_obj.read(1024) sk.sendall(data) has_sent+=len(data) file_obj.close() print("上传成功")
参考:https://www.cnblogs.com/yuanchenqi/articles/5692716.html