Python之网络编程

一、服务端和客户端

BS架构（web网站）

CS架构（腾讯通软件：server+client）

C/S架构与socket的关系：

我们socket就是为了完成C/S架构的开发

二、OSI七层模型

互联网协议按照功能不同分为osi七层或tcp/ip五层或tcp/ip四层

每层运行常见物理设备

socket入手互联网协议：

1.首先：目标就是教会你如何基于socket编程，来开发一款自己的C/S架构软件

2.其次：C/S架构的软件（软件属于应用层）是基于网络进行通信的

3.然后：网络的核心即一堆协议，协议即标准，你想开发一款基于网络通信的软件，就必须遵循这些标准。

4.最后：开启我们的socket编程

TCP/IP协议族包括运输层、网络层、链路层。

三、socket层

Socket是介于应用层和传输层之间。

四、socket是什么

　　Socket是应用层与TCP/IP协议族通信的中间软件抽象层，它是一组接口。在设计模式中，Socket其实就是一个门面模式，它把复杂的TCP/IP协议族隐藏在Socket接口后面，对用户来说，一组简单的接口就是全部，让Socket去组织数据，以符合指定的协议。

所以，我们无需深入理解tcp/udp协议，socket已经为我们封装好了，我们只需要遵循socket的规定去编程，写出的程序自然就是遵循tcp/udp标准的。

1 将socket说成ip+port，ip是用来标识互联网中的一台主机的位置，而port是用来标识这台机器上的一个应用程序，ip地址是配置到网卡上的，而port是应用程序开启的，ip与port的绑定就标识了互联网中独一无二的一个应用程序
2 
3 而程序的pid是同一台机器上不同进程或者线程的标识（Google Chrome会有多个PID）

五、套接字发展史及分类

套接字起源于 20 世纪 70 年代加利福尼亚大学伯克利分校版本的 Unix,即人们所说的 BSD Unix。因此,有时人们也把套接字称为“伯克利套接字”或“BSD 套接字”。一开始,套接字被设计用在同一台主机上多个应用程序之间的通讯。这也被称进程间通讯,或 IPC。套接字有两种（或者称为有两个种族）,分别是基于文件型的和基于网络型的。

1、基于文件类型的套接字家族

套接字家族的名字：AF_UNIX

unix一切皆文件，基于文件的套接字调用的就是底层的文件系统来取数据，两个套接字进程运行在同一机器，可以通过访问同一个文件系统间接完成通信

2、基于网络类型的套接字家族

套接字家族的名字：AF_INET

(还有AF_INET6被用于ipv6，还有一些其他的地址家族，不过，他们要么是只用于某个平台，要么就是已经被废弃，或者是很少被使用，或者是根本没有实现，所有地址家族中，AF_INET是使用最广泛的一个，python支持很多种地址家族，但是由于我们只关心网络编程，所以大部分时候我么只使用AF_INET)

六、套接字工作流程

生活中的场景，你要打电话给一个朋友，先拨号，朋友听到电话铃声后提起电话，这时你和你的朋友就建立起了连接，就可以讲话了。等交流结束，挂断电话结束此次交谈。

生活中的场景就解释了这工作原理，也许TCP/IP协议族就是诞生于生活中，这也不一定。

　　先从服务器端说起。服务器端先初始化Socket，然后与端口绑定(bind)，对端口进行监听(listen)，调用accept阻塞，等待客户端连接。在这时如果有个客户端初始化一个Socket，然后连接服务器(connect)，如果连接成功，这时客户端与服务器端的连接就建立了。客户端发送数据请求，服务器端接收请求并处理请求，然后把回应数据发送给客户端，客户端读取数据，最后关闭连接，一次交互结束。

1、socket模块发送和接收消息

示例：模拟发送消息和接收消息的过程

tcp服务端（server）

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3 
 4  
 5 import socket
 6                              
 7 phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM)  #买手机
 8 phone.bind(('127.0.0.1',8000))  #绑定手机卡   #改成服务端网卡IP地址和端口
 9 phone.listen(5)  #开机  5的作用是最大挂起连接数   #backlog连接池（也叫半链接）
10 print('------------->')
11 conn,addr=phone.accept()  #等电话
12 
13 msg=conn.recv(1024)  #收消息
14 print('客户端发来的消息是：',msg)
15 conn.send(msg.upper())  #发消息
16 
17 conn.close()
18 phone.close()

执行结果：

1 ------------->

tcp客户端(client)

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 import socket
 5 
 6 phone=socket.socket(socket.AF_INET,socket.SOCK_STREAM)
 7 
 8 phone.connect(('127.0.0.1',8000)) #拔通电话   #改成服务端网卡IP地址和端口
 9 
10 phone.send('hello'.encode('utf-8'))  #发消息
11 data=phone.recv(1024)
12 print('收到服务端的发来的消息: ',data)
13 
14 phone.close()

执行结果：

1 收到服务端的发来的消息:  b'HELLO'

2、tcp三次握手和四次挥手

主动断开连接：FIN_WAIT_1

被动断开连接： FIN_WAIT_2

马上断开连接： TIME_WAIT

3、socket()模块函数用法

 1 import socket
 2 socket.socket(socket_family,socket_type,protocal=0)
 3 socket_family 可以是 AF_UNIX 或 AF_INET。socket_type 可以是 SOCK_STREAM 或 SOCK_DGRAM。protocol 一般不填,默认值为 0。
 4 
 5 获取tcp/ip套接字
 6 tcpSock = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
 7 
 8 获取udp/ip套接字
 9 udpSock = socket.socket(socket.AF_INET, socket.SOCK_DGRAM)
10 
11 由于 socket 模块中有太多的属性。我们在这里破例使用了'from module import *'语句。使用 'from socket import *',我们就把 socket 模块里的所有属性都带到我们的命名空间里了,这样能 大幅减短我们的代码。
12 例如tcpSock = socket(AF_INET, SOCK_STREAM)

服务端套接字函数

s.bind() 绑定(主机,端口号)到套接字
s.listen() 开始TCP监听
s.accept() 被动接受TCP客户的连接,(阻塞式)等待连接的到来

客户端套接字函数
s.connect() 主动初始化TCP服务器连接
s.connect_ex() connect() 函数的扩展版本,出错时返回出错码,而不是抛出异常

公共用途的套接字函数
s.recv() 接收TCP数据
s.send() 发送TCP数据(send在待发送数据量大于己端缓存区剩余空间时,数据丢失,不会发完)
s.sendall() 发送完整的TCP数据(本质就是循环调用send,sendall在待发送数据量大于己端缓存区剩余空间时,数据不丢失,循环调用send直到发完)
s.recvfrom() 接收UDP数据
s.sendto() 发送UDP数据
s.getpeername() 连接到当前套接字的远端的地址
s.getsockname() 当前套接字的地址
s.getsockopt() 返回指定套接字的参数
s.setsockopt() 设置指定套接字的参数
s.close() 关闭套接字

面向锁的套接字方法
s.setblocking() 设置套接字的阻塞与非阻塞模式
s.settimeout() 设置阻塞套接字操作的超时时间
s.gettimeout() 得到阻塞套接字操作的超时时间

面向文件的套接字的函数
s.fileno() 套接字的文件描述符
s.makefile() 创建一个与该套接字相关的文件

七、基于TCP的套接字

tcp语法格式：

tcp服务端

1 ss = socket()  #创建服务器套接字
2 ss.bind()      #把地址绑定到套接字
3 ss.listen()    #监听链接
4 inf_loop:      #服务器无限循环
5     cs = ss.accept()  #接受客户端链接
6     comm_loop:        #通讯循环
7         cs.recv()/cs.send()  #对话(接收与发送)
8     cs.close()    #关闭客户端套接字
9 ss.close()        #关闭服务器套接字(可选)

tcp客户端

1 cs = socket()    #创建客户套接字
2 cs.connect()     #尝试连接服务器
3 comm_loop:       #通讯循环
4     cs.send()/cs.recv()  #对话(发送/接收)
5 cs.close()               #关闭客户套接字

1、基于tcp实现：客户端发送空格，服务端也会接收

示例：

tcp_server端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3 
 4 from socket import *
 5 
 6 ip_port = ('127.0.0.1', 8080)
 7 back_log = 5
 8 buffer_size = 1024
 9 
10 tcp_server = socket(AF_INET, SOCK_STREAM)
11 tcp_server.bind(ip_port)
12 tcp_server.listen(back_log)
13 
14 print('服务端开始运行了')
15 conn, addr = tcp_server.accept()  #服务器阻塞
16 print('双向链接是', conn)
17 print('客户端地址', addr)
18 
19 while True:
20     data = conn.recv(buffer_size)    #收缓存为空，则阻塞
21     print('客户端发来的消息是', data.decode('utf-8'))
22     conn.send(data.upper())
23 conn.close()
24 
25 tcp_server.close()

tcp_client端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3 
 4 from socket import *
 5 
 6 ip_port = ('127.0.0.1', 8080)
 7 back_log = 5
 8 buffer_size = 1024
 9 
10 tcp_client = socket(AF_INET, SOCK_STREAM)
11 tcp_client.connect(ip_port)
12 
13 while True:
14     msg = input('>>:')          #发送空格到自己的发送缓存中
15     # msg=input('>>:').strip()  #去掉空格
16     tcp_client.send(msg.encode('utf-8'))
17     print('客户端已经发送消息')
18     data = tcp_client.recv(buffer_size)  #收缓存为空则阻塞
19     print('收到服务端发来的消息是', data.decode('utf-8'))
20 
21 tcp_client.close()

执行结果：

 1 server:
 2 服务端开始运行了
 3 双向链接是 <socket.socket fd=304, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 8080), raddr=('127.0.0.1', 53365)>
 4 客户端地址 ('127.0.0.1', 53365)
 5 客户端发来的消息是  
 6 
 7 client:
 8 >>: 
 9 客户端已经发送消息
10 收到服务端发来的消息是

View Code

八、基于UDP的套接字

udp语法格式：

udp服务端

1 ss = socket()   #创建一个服务器的套接字
2 ss.bind()       #绑定服务器套接字
3 inf_loop:       #服务器无限循环
4     cs = ss.recvfrom()/ss.sendto() # 对话(接收与发送)
5 ss.close()

udp客户端

1 cs = socket()   # 创建客户套接字
2 comm_loop:      # 通讯循环
3     cs.sendto()/cs.recvfrom()   # 对话(发送/接收)
4 cs.close()                      # 关闭客户套接字

1、基于upd实现方法

示例：

udp_server端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 ip_port=('127.0.0.1',8080)
 6 buffer_size = 1024
 7 
 8 udp_server = socket(AF_INET,SOCK_DGRAM)  #数据报套接字
 9 udp_server.bind(ip_port)
10 
11 while True:
12     data,addr=udp_server.recvfrom(buffer_size)
13     print(data)
14 
15     udp_server.sendto(data.upper(),addr)  #upper() 小写变大写

udp_client端：

 1 from socket import *
 2 ip_port=('127.0.0.1',8080)  #服务端IP+端口
 3 buffer_size = 1024
 4 
 5 udp_client=socket(AF_INET,SOCK_DGRAM) #udp数据报套接字
 6 
 7 while True:
 8     msg=input('>>:').strip()
 9     udp_client.sendto(msg.encode('utf-8'),ip_port)
10     #数据，ip地址+端口
11     data,addr=udp_client.recvfrom(buffer_size)
12     print(data.decode('utf-8'))

执行结果：

先运行udp_server，再运行udp_client。

服务端返回结果：

1 b'sfdsfds'  #bytes类型
2 b'fdsfds'
3 b'fsdfds'
4 b'sdfdsf'

在客户端输入：

>>:sfdsfds  #在客户端输入
SFDSFDS     #服务端返回的结果，把客户端输入的字符变大写

>>:fdsfds
FDSFDS

>>:fsdfds
FSDFDS

2、实现ntp时间服务器

示例：

udp_server端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3 
 4 #实现ntp时间服务器
 5 import time
 6 from socket import *
 7 ip_port=('127.0.0.1',8080)
 8 buffer_size = 1024
 9 
10 udp_server = socket(AF_INET,SOCK_DGRAM)  #数据报套接字
11 udp_server.bind(ip_port)
12 
13 while True:
14     data,addr=udp_server.recvfrom(buffer_size)
15     print(data)
16 
17     if not data:
18         fmt='%Y-%m-%d %X'   #如果用户没有输入时间，就返回默认格式
19     else:
20         fmt=data.decode('utf-8')
21     back_time=time.strftime(fmt)
22 
23     udp_server.sendto(back_time.encode('utf-8'),addr)

udp_client端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 ip_port=('127.0.0.1',8080)  #服务端IP+端口
 6 buffer_size = 1024
 7 
 8 udp_client=socket(AF_INET,SOCK_DGRAM) #数据报套接字
 9 
10 while True:
11     msg=input('>>:').strip()
12     udp_client.sendto(msg.encode('utf-8'),ip_port)
13 
14     data,addr=udp_client.recvfrom(buffer_size)
15     print('ntp服务器的标准时间是',data.decode('utf-8'))

执行结果：

运行udp_server,再运行udp_client,然后在udp_client里输入：

1 >>:%Y   #在客户端输入%Y
2 ntp服务器的标准时间是 2019  #就会返回服务端的时间
3 >>:%m-%d-%Y
4 ntp服务器的标准时间是 07-21-2019
5 >>:

九、recv与recvfrom的区别

1、收发原理详解：

发消息：都是将数据发送到己端的发送缓冲中

收消息：都是从己端的缓冲区中收

2、发消息二者类似，收消息确实有区别的？

tcp协议：send发消息，recv收消息

（1）如果收消息缓冲区里的数据为空，那么recv就会阻塞

（2）tcp基于链接通信，如果一端断开了链接，那另外一端的链接也跟着完蛋recv将不会阻塞，收到的是空

udp协议：sendto发消息，recvfrom收消息

（1）如果如果收消息缓冲区里的数据为“空”，recvfrom不会阻塞

（2）recvfrom收的数据小于sendinto发送的数据时，数据丢失

（3）只有sendinto发送数据没有recvfrom收数据，数据丢失

注意：

1.你单独运行上面的udp的客户端，你发现并不会报错，相反tcp却会报错，因为udp协议只负责把包发出去，对方收不收，我根本不管，而tcp是基于链接的，必须有一个服务端先运行着，客户端去跟服务端建立链接然后依托于链接才能传递消息，任何一方试图把链接摧毁都会导致对方程序的崩溃。

2.上面的udp程序，你注释任何一条客户端的sendinto，服务端都会卡住，为什么？因为服务端有几个recvfrom就要对应几个sendinto，哪怕是sendinto(b'')那也要有。

3.总结：

1.udp的sendinto不用管是否有一个正在运行的服务端，可以己端一个劲的发消息

2.udp的recvfrom是阻塞的，一个recvfrom(x)必须对一个一个sendinto(y),收完了x个字节的数据就算完成,若是y>x数据就丢失，这意味着udp根本不会粘包，但是会丢数据，不可靠

3.tcp的协议数据不会丢，己端总是在收到ack时才会清除缓冲区内容。数据是可靠的，但是会粘包。

十、粘包

须知：只有TCP有粘包现象，UDP永远不会粘包。

1、socket收发消息的原理

2、为什么会出现所谓的粘包

原因：接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的。

　　此外，发送方引起的粘包是由TCP协议本身造成的，TCP为提高传输效率，发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少，通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去，这样接收方就收到了粘包数据。

TCP（transport control protocol，传输控制协议）是面向连接的，面向流的，提供高可靠性服务。收发两端（客户端和服务器端）都要有一一成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，使用了优化方法（Nagle算法），将多次间隔较小且数据量小的数据，合并成一个大的数据块，然后进行封包。这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。即面向流的通信是无消息保护边界的。
UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。不会使用块的合并优化算法，, 由于UDP支持的是一对多的模式，所以接收端的skbuff(套接字缓冲区）采用了链式结构来记录每一个到达的UDP包，在每个UDP包中就有了消息头（消息来源地址，端口等信息），这样，对于接收端来说，就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），那也不是空消息，udp协议会帮你封装上消息头。

3、tcp会发生粘包的两种情况如下：

1、发送端多次send间隔较短，并且数据量较小，tcp会通过Nagls算法，封装成一个包，发送到接收端，接收端不知道这个包由几部分组成，所以就会产生粘包。

2、数据量发送的大，接收端接收的小，再接一次，还会出现上次没有接收完成的数据。就会出现粘包。

示例1：发送端多次send间隔较短，并且数据量较小，tcp会通过Nagls算法，封装成一个包，发送到接收端，接收端不知道这个包由几部分组成，所以就会产生粘包。

server服务端：

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 ip_port=('127.0.0.1',8082)
 6 back_log=5
 7 buffer_size=1024
 8 
 9 tcp_server=socket(AF_INET,SOCK_STREAM)
10 tcp_server.bind(ip_port)
11 tcp_server.listen(back_log)
12 
13 conn,addr=tcp_server.accept()
14 
15 data1=conn.recv(buffer_size)  #指定buffer_size ,得到的结果就是通过Nagle算法，随机接收次数。
16 print('第1次数据',data1)
17 
18 data2=conn.recv(buffer_size)
19 print('第2次数据',data2)
20 
21 data3=conn.recv(buffer_size)
22 print('第3次数据',data3)

client客户端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 import time
 6 
 7 ip_port=('127.0.0.1',8082)
 8 back_log=5
 9 buffer_size=1024
10 
11 tcp_client=socket(AF_INET,SOCK_STREAM)
12 tcp_client.connect(ip_port)
13 
14 tcp_client.send('hello'.encode('utf-8'))
15 tcp_client.send('world'.encode('utf-8'))
16 tcp_client.send('egon'.encode('utf-8'))
17 
18 
19 time.sleep(1000)

执行结果：

1 第1次数据 b'helloworldegon'  #不确定接收次数。

示例2：指定接收字节数，相当于服务端知道接收长度，就不会出现粘包现象

粘包服务端

 1 from socket import *
 2 ip_port=('127.0.0.1',8080)
 3 back_log=5
 4 buffer_size=1024
 5 
 6 tcp_server=socket(AF_INET,SOCK_STREAM)
 7 tcp_server.bind(ip_port)
 8 tcp_server.listen(back_log)
 9 
10 conn,addr=tcp_server.accept()
11 
12 data1=conn.recv(5)  #指定每次接收字节数，就不会出现粘包现象
13 print('第一次数据',data1)
14 
15 data2=conn.recv(5)
16 print('第2次数据',data2)
17 
18 data3=conn.recv(5)
19 print('第3次数据',data3)

粘包客户端

 1 from socket import *
 2 import time
 3 ip_port=('127.0.0.1',8080)
 4 back_log=5
 5 buffer_size=1024
 6 
 7 tcp_client=socket(AF_INET,SOCK_STREAM)
 8 tcp_client.connect(ip_port)
 9 
10 tcp_client.send('hello'.encode('utf-8'))
11 tcp_client.send('world'.encode('utf-8'))
12 tcp_client.send('egon'.encode('utf-8'))
13 
14 
15 time.sleep(1000)

执行结果：

1 第1次数据 b'hello'   #不会出现粘包现象，发送三次，就接收三次
2 第2次数据 b'world'
3 第3次数据 b'egon'

示例3：数据量发送的大，接收端接收的小，再接一次，还会出现上次没有接收完成的数据。就会出现粘包。

粘包服务端

 1 from socket import *
 2 ip_port=('127.0.0.1',8080)
 3 back_log=5
 4 buffer_size=1024
 5 
 6 tcp_server=socket(AF_INET,SOCK_STREAM)
 7 tcp_server.bind(ip_port)
 8 tcp_server.listen(back_log)
 9 
10 conn,addr=tcp_server.accept()
11 
12 data1=conn.recv(1)
13 print('第1次数据',data1)
14 
15 # data2=conn.recv(5)
16 # print('第2次数据',data2)
17 #
18 # data3=conn.recv(1)
19 # print('第3次数据',data3)

粘包客户端

 1 from socket import *
 2 import time
 3 ip_port=('127.0.0.1',8080)
 4 back_log=5
 5 buffer_size=1024  #接收的数据只有1024
 6 
 7 tcp_client=socket(AF_INET,SOCK_STREAM)
 8 tcp_client.connect(ip_port)
 9 
10 tcp_client.send('helloworldegon'.encode('utf-8'))
11 
12 time.sleep(1000)

执行结果：

1 第1次数据 b'h'
2 第2次数据 b'ellow'  #发送的数据过大，接收的数据设置的较小，就会出现导致粘包 
3 第3次数据 b'o'

4、udp永远不会粘包

udp不粘包服务端

 1 from socket import *
 2 ip_port=('127.0.0.1',8080)
 3 buffer_size=1024
 4 
 5 udp_server=socket(AF_INET,SOCK_DGRAM) #数据报
 6 udp_server.bind(ip_port)
 7 
 8 data1=udp_server.recvfrom(10)
 9 print('第1次',data1)
10 
11 data2=udp_server.recvfrom(10)
12 print('第2次',data2)
13 
14 
15 data3=udp_server.recvfrom(10)
16 print('第3次',data3)
17 
18 data4=udp_server.recvfrom(2)
19 print('第4次',data4)

udp不粘包客户端

1 from socket import *
2 ip_port=('127.0.0.1',8080)
3 buffer_size=1024
4 
5 udp_client=socket(AF_INET,SOCK_DGRAM) #udp叫数据报
6 
7 udp_client.sendto(b'hello',ip_port)
8 udp_client.sendto(b'world',ip_port)
9 udp_client.sendto(b'egon',ip_port)

执行结果：

1 第1次 (b'hello', ('127.0.0.1', 57813))  #udp没有Nagle优化算法
2 第2次 (b'world', ('127.0.0.1', 57813))  #每次都是一次独立的包，所以不会出现粘包现象
3 第3次 (b'egon', ('127.0.0.1', 57813))

补充知识：

1、tcp是可靠传输

　　tcp在数据传输时，发送端先把数据发送到自己的缓存中，然后协议控制将缓存中的数据发往对端，对端返回一个ack=1，发送端则清理缓存中的数据，对端返回ack=0，则重新发送数据，所以tcp是可靠的。

2、udp是不可靠传输

　 udp发送数据，对端是不会返回确认信息的，因此不可靠。

十一、解决粘包的办法

法一：比较(LOW)版本

low_socket_server服务端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 #low版解决粘包版本服务端
 5 from socket import *
 6 import subprocess
 7 ip_port=('127.0.0.1',8080)
 8 back_log=5
 9 buffer_size=1024
10 
11 tcp_server=socket(AF_INET,SOCK_STREAM)
12 tcp_server.bind(ip_port)
13 tcp_server.listen(back_log)
14 
15 while True:
16     conn,addr=tcp_server.accept()
17     print('新的客户端链接',addr)
18     while True:
19         #收消息
20         try:
21             cmd=conn.recv(buffer_size)
22             if not cmd:break
23             print('收到客户端的命令',cmd)
24 
25             #执行命令，得到命令的运行结果cmd_res
26             res=subprocess.Popen(cmd.decode('utf-8'),shell=True,
27                                  stderr=subprocess.PIPE,
28                                  stdout=subprocess.PIPE,
29                                  stdin=subprocess.PIPE)
30             err=res.stderr.read()
31             if err:
32                 cmd_res=err
33             else:
34                 cmd_res=res.stdout.read()
35 
36             #发送消息
37             if not cmd_res:
38                 cmd_res='执行成功'.encode('gbk')
39 
40             length=len(cmd_res)  #计算长度
41             conn.send(str(length).encode('utf-8')) #把长度发给客户端
42             client_ready=conn.recv(buffer_size)    #卡着一个recv
43             if client_ready == b'ready':  #如果收到客户端的ready消息，就说明准备好了。
44                 conn.send(cmd_res)        #就可以send给客户端发送消息啦！
45         except Exception as e:
46             print(e)
47             break

low_socket_client客户端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 #low版解决粘包版客户端
 5 from socket import *
 6 ip_port=('127.0.0.1',8080)
 7 back_log=5
 8 buffer_size=1024
 9 
10 tcp_client=socket(AF_INET,SOCK_STREAM)
11 tcp_client.connect(ip_port)
12 
13 while True:
14     cmd=input('>>: ').strip()
15     if not cmd:continue
16     if cmd == 'quit':break
17 
18     tcp_client.send(cmd.encode('utf-8'))
19 
20 
21     #解决粘包
22     length=tcp_client.recv(buffer_size)  #接收发送过来的长度（1024*8=8192，2**8192=可以接收的长度）
23     tcp_client.send(b'ready')   #客户端再send给服务端，告诉服务端我准备好啦！
24 
25     length=int(length.decode('utf-8'))  #先解码，转成字符串的长度
26     #解决思路：就是提前发一个头过去，告诉客户端需要接收的长度（分两步：1、发送发度 2、再次发送数据）
27     recv_size=0   #接收的尺寸
28     recv_msg=b''  #最后要拼接起来
29     while recv_size < length:  #要收多大？，要先判断接收的尺寸<length
30         recv_msg += tcp_client.recv(buffer_size)  #接收到的数据，拼接buffer_size，
31         recv_size=len(recv_msg) #1024  #衡量自己接收了多少数据,有没有收完（统计recv_msg的长度）
32 
33 
34     print('命令的执行结果是 ',recv_msg.decode('gbk'))
35 tcp_client.close()

总结：

（为何low): 程序的运行速度远快于网络传输速度，所以在发送一段字节前，先用send去发送该字节流长度，这种方式会放大网络延迟带来的性能损耗。

法二：节省网络传输版本（牛逼版本）

　　为字节流加上自定义固定长度报头，报头中包含字节流长度，然后一次send到对端，对端在接收时，先从缓存中取出定长的报头，然后再取真实数据。

示例：(没实现多客户端并发）

tcp_socket_server服务端：

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 import subprocess
 6 import struct
 7 ip_port=('127.0.0.1',8080)
 8 back_log=5
 9 buffer_size=1024
10 
11 tcp_server=socket(AF_INET,SOCK_STREAM)
12 tcp_server.bind(ip_port)
13 tcp_server.listen(back_log)
14 
15 while True:
16     conn,addr=tcp_server.accept()
17     print('新的客户端链接',addr)
18     while True:
19         #收
20         try:
21             cmd=conn.recv(buffer_size)
22             if not cmd:break
23             print('收到客户端的命令',cmd)
24 
25             #执行命令，得到命令的运行结果cmd_res
26             res=subprocess.Popen(cmd.decode('utf-8'),shell=True,
27                                  stderr=subprocess.PIPE,
28                                  stdout=subprocess.PIPE,
29                                  stdin=subprocess.PIPE)
30             err=res.stderr.read()
31             if err:
32                 cmd_res=err
33             else:
34                 cmd_res=res.stdout.read()
35 
36             #发
37             if not cmd_res:
38                 cmd_res='执行成功'.encode('gbk')
39 
40             length=len(cmd_res)
41 
42             data_length=struct.pack('i',length)
43             conn.send(data_length)
44             conn.send(cmd_res)
45         except Exception as e:
46             print(e)
47             break

tcp_socket_client客户端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 import struct
 6 from functools import partial
 7 ip_port=('127.0.0.1',8080)
 8 back_log=5
 9 buffer_size=1024
10 
11 tcp_client=socket(AF_INET,SOCK_STREAM)
12 tcp_client.connect(ip_port)
13 
14 while True:
15     cmd=input('>>: ').strip()
16     if not cmd:continue
17     if cmd == 'quit':break
18 
19     tcp_client.send(cmd.encode('utf-8'))
20 
21 
22     #解决粘包
23     length_data=tcp_client.recv(4)
24     length=struct.unpack('i',length_data)[0]
25 
26     recv_size=0
27     recv_data=b''
28     while recv_size < length:
29         recv_data+=tcp_client.recv(buffer_size)
30         recv_size=len(recv_data)
31     print('命令的执行结果是 ',recv_data.decode('gbk'))
32 tcp_client.close()

十二、用到的相关模块知识回顾

1、subprocess模块

subprocess 作用：启动一个新的进程并与之通信

语法：

subprocess.Popen(args, bufsize=0, executable=None, stdin=None, stdout=None, stderr=None, preexec_fn=None, close_fds=False, shell=False, cwd=None, env=None, universal_newlines=False, startupinfo=None, creationflags=0)

参数：

Popen类：用Popen来创建进程，并与进程进行复杂的交互
shell=True: 指定的命令行会通过shell来执行
stdin : 标准输入
stdout : 标准输出
stderr : 标准错误的文件句柄
PIPE : 管道 ,默认值为: None, 表示不做重定向，管道可以用来接收数据。

示例1：执行dir命令，就会交给shell解释器执行操作

 1 import subprocess  #导入模块
 2 
 3 命令：
 4 >>> subprocess.Popen("dir", shell=True)    #执行dir命令，交给shell解释器执行

示例2：subprocess 把标准输出放入管道中，屏幕上就不会输出内容

 1 
 2 res=subprocess.Popen("dir", shell=True,stdout=subprocess.PIPE,stdin=subprocess.PIPE,stderr=subprocess.PIPE)   #执行dir命令，交给shell解释器执行，通过标准类型和subprocess.PIPE放入管道中。
 3 
 4 >>> res.stdout.read()  #读取管道里面的数据，在程序中，读取也不会输出到屏幕上。

如果再读一次内容就会空了

示例3：subprocess 执行一个系统没有的命令，就会产生正常的输出

1 #执行一个系统没有的命令，就会产生正常的输出
2 
3 >>> res=subprocess.Popen("sfsfdsfdsfs", shell=True,stdout=subprocess.PIPE,stdin=subprocess.PIPE,stderr=subprocess.PIPE)

res.stdout.read()  没内容

res.stderr.read() 有内容

2、struct模块

struct模块作用：解决bytes和其他二进制数据类型的转换

示例用法：
struct.pack('i',12)

struct.unpack('i',l)

参数说明：

pack函数作用：把任意数据类型变成bytes

十三、socket 实现并发

SocketServer是基于socket写成的一个更强大的模块。

SocketServer简化了网络服务器的编写。它有4个类：TCPServer，UDPServer，UnixStreamServer，UnixDatagramServer。这4个类是同步进行处理的，另外通过ForkingMixIn和ThreadingMixIn类来支持异步。

在python3中该模块是socketserver

在python2中该模块是Socketserver

1 分情况导入导入模块
2 try:
3     import socketserver      #Python 3
4 except ImportError:
5     import SocketServer      #Python 2

服务器

　　服务器要使用处理程序，必须将其出入到服务器对象，定义了5个基本的服务器类型(就是“类”)。BaseServer，TCPServer，UnixStreamServer，UDPServer，UnixDatagramServer。注意：BaseServer不直接对外服务。

关系如下：

服务器：

　　要使用处理程序，必须将其传入到服务器的对象，定义了四个基本的服务器类。

（1）TCPServer(address,handler) 支持使用IPv4的TCP协议的服务器，address是一个（host,port）元组。Handler是BaseRequestHandler或StreamRequestHandler类的子类的实例。

（2）UDPServer(address,handler) 支持使用IPv4的UDP协议的服务器，address和handler与TCPServer中类似。

（3）UnixStreamServer(address,handler) 使用UNIX域套接字实现面向数据流协议的服务器，继承自TCPServer。

（4）UnixDatagramServer(address,handler) 使用UNIX域套接字实现数据报协议的服务器，继承自UDPServer。

这四个类的实例都有以下方法。

1、s.socket 用于传入请求的套接字对象。

2、s.sever_address 监听服务器的地址。如元组（"127.0.0.1",80）

3、s.RequestHandlerClass 传递给服务器构造函数并由用户提供的请求处理程序类。

4、s.serve_forever() 处理无限的请求 #无限处理client连接请求

5、s.shutdown() 停止serve_forever()循环

SocketServer模块中主要的有以下几个类：

1、BaseServer 包含服务器的核心功能与混合类（mix-in）的钩子功能。这个类主要用于派生，不要直接生成这个类的类对象，可以考虑使用TCPServer和UDPServer类。

2、TCPServer 基本的网络同步TCP服务器

3、UDPServer 基本的网络同步UDP服务器

4、ForkingTCPServer 　　是ForkingMixIn与TCPServer的组合

5、ForkingUDPServer　　　是ForkingMixIn与UDPServer的组合

6、ThreadingUDPServer　　是ThreadingMixIn和UDPserver的组合

7、ThreadingTCPServer　　是ThreadingMixIn和TCPserver的组合

8、BaseRequestHandler　　必须创建一个请求处理类，它是BaseRequestHandler的子类并重载其handle()方法。

9、StreamRequestHandler　　实现TCP请求处理类的

10、DatagramRequestHandler　　实现UDP请求处理类的

11、ThreadingMixIn　　实现了核心的线程化功能，用于与服务器类进行混合(mix-in)，以提供一些异步特性。不要直接生成这个类的对象。

12、ForkingMixIn　　实现了核心的进程化功能，用于与服务器类进行混合(mix-in)，以提供一些异步特性。不要直接生成这个类的对象。

关系图如下：

创建服务器的步骤：

1：首先必须创建一个请求处理类

2：它是BaseRequestHandler的子类

3：该请求处理类是BaseRequestHandler的子类并重新写其handle()方法

实例化请求处理类传入服务器地址和请求处理程序类

最后实例化调用serve_forever() #无限处理client请求

记住一个原则：对tcp来说：self.request=conn

实例：

1、tcp_socket_server服务端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3 
 4 #服务端已经实现并发，处理客户端请求
 5 
 6 import socketserver
 7 
 8 class MyServer(socketserver.BaseRequestHandler):   #基本的通信循环
 9     def handle(self):
10         print('conn is: ',self.request)  #与client的链接请求信息
11         print('addr is: ',self.client_address)  #获取client的地址和端口号
12         #通信循环
13         while True:
14             #收消息
15             data=self.request.recv(1024)
16             print('收到客户端的消息是',data)
17 
18             #发消息
19             self.request.sendall(data.upper())
20 
21 if __name__ == '__main__':
22     s=socketserver.ThreadingTCPServer(('127.0.0.1',8000),MyServer) #开启多线程，绑定地址，和处理通信的类
23     s.serve_forever() #连接循环

tcp_socket_client客户端

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 ip_port=('127.0.0.1',8000)
 6 back_log=5
 7 buffer_size=1024
 8 
 9 tcp_client=socket(AF_INET,SOCK_STREAM)
10 tcp_client.connect(ip_port)
11 
12 while True:
13     msg=input('>>: ').strip()
14     if not msg:continue
15     if msg == 'quit':break
16 
17     tcp_client.send(msg.encode('utf-8'))
18 
19     data=tcp_client.recv(buffer_size)
20     print('收到服务端发来的消息: ',data.decode('utf-8'))
21 
22 tcp_client.close()

执行结果：

开启一个服务端程序，再开多个客户端，向服务器发送命令：

 1 #客户端1
 2 >>: hello   #输入要发送的消息
 3 收到服务端发来的消息:  HELLO
 4 
 5 #客户端2
 6 >>: word
 7 收到服务端发来的消息:  WORD
 8 
 9 #服务端
10 conn is:  <socket.socket fd=412, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 8000), raddr=('127.0.0.1', 62813)>
11 addr is:  ('127.0.0.1', 62813)
12 收到客户端的消息是 b'hello'  #客户端收到的消息
13 
14 conn is:  <socket.socket fd=256, family=AddressFamily.AF_INET, type=SocketKind.SOCK_STREAM, proto=0, laddr=('127.0.0.1', 8000), raddr=('127.0.0.1', 62816)>
15 addr is:  ('127.0.0.1', 62816)
16 收到客户端的消息是 b'word'

View Code

2、udp实现并发

记住一个原则：对udp来说：self.request=(client_data_bytes,udp的套接字对象)

udp_socket_server服务端：

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 import socketserver
 5 
 6 class MyServer(socketserver.BaseRequestHandler):
 7     def handle(self):
 8         print(self.request)
 9         print('收到客户端的消息是',self.request[0])
10         self.request[1].sendto(self.request[0].upper(),self.client_address) #发送的是第1个消息，第2个地址
11 
12 
13 if __name__ == '__main__':
14     s=socketserver.ThreadingUDPServer(('127.0.0.1',8080),MyServer) #多线程
15     s.serve_forever()

udp_socket_client客户端：

 1 #!/usr/bin/env python
 2 # -*- coding:utf-8 -*-      
 3  
 4 from socket import *
 5 ip_port=('127.0.0.1',8080)
 6 buffer_size=1024
 7 
 8 udp_client=socket(AF_INET,SOCK_DGRAM) #数据报
 9 
10 while True:
11     msg=input('>>: ').strip()
12     udp_client.sendto(msg.encode('utf-8'),ip_port)
13 
14     data,addr=udp_client.recvfrom(buffer_size)
15     # print(data.decode('utf-8'))
16     print(data)

执行结果：

先启动服务端，再开多个客户端，向服务端发送消息。

 1 #客户端
 2 >>: welcome  #输入要发送的消息
 3 b'WELCOME'
 4 
 5 >>: hello
 6 b'HELLO'
 7 >>: 
 8 
 9 #服务端
10 (b'welcome', <socket.socket fd=388, family=AddressFamily.AF_INET, type=SocketKind.SOCK_DGRAM, proto=0, laddr=('127.0.0.1', 8080)>)
11 收到客户端的消息是 b'welcome'   #服务端接收到的消息
12 
13 (b'hello', <socket.socket fd=388, family=AddressFamily.AF_INET, type=SocketKind.SOCK_DGRAM, proto=0, laddr=('127.0.0.1', 8080)>)
14 收到客户端的消息是 b'hello'

View Code