Python学习（十六）—

Python学习（十六）—— socket编程

一客户端/服务器架构

即C/S架构，包括：

硬件C/S架构（打印机）

软件C/S架构（web服务）

最常用的软件服务器是Web服务器。一台机器里放一些网页或Web应用程序，然后启动服务。这样的服务器的任务就是接受客户的请求，把网页发送给客户（如用户计算机上的浏览器），然后等待客户的下一个请求。这些服务启动后的目标就是永远运行下去。虽然它们不可能实现这样的目的，但只要没有关机或硬件出错等外力干扰，它们就会运行相当长的一段时间。

互联网中处处是C/S架构：百度和我的浏览器、腾讯视频和我的客户端

C/S架构与socket的关系：学习socket就是为了完成C/S架构的开发

二 osi七层

如何基于socket编程，来开发一卷自己的C/S架构软件

C/S架构的软件（软件属于应用层）是基于网络进行通信的

网络的核心即一堆协议，协议即标准，我们想要开发一款基于网络通信的软件，就必须遵循这些标准。

三 socket层

socket的位置

四 socket是什么

socket是应用层与TCP/IP协议族通信的中间软件抽象层，它是一组接口。在设计模式中，socket其实就是一个门面模式，它把复杂的TCP/IP协议族隐藏在socket接口的后面，对用户来说，一组简单的接口就是全部，让socket去组织数据，以符合指定的协议。

所以，我们无需深入理解TCP/UDP协议，socket已经为我们封装好了。我们只需遵循socket的规定去编程，写出的程序自然而然遵循TCP/UDP标准。

注意：

　　也有人将socket说成ip+port，ip是用来标识互联网中的一台主机的位置，而port是用来标识这台机器上的一个应用程序，ip地址是配置到网卡上的，而port是应用程序开启的，ip与port的绑定就标识了互联网中独一无二的一个应用程序，而程序的pid是同一台机器上不同进程或者线程的标识

五套接字发展史及分类

　　套接字起源于 20 世纪 70 年代加利福尼亚大学伯克利分校版本的 Unix,即人们所说的 BSD Unix。因此,有时人们也把套接字称为“伯克利套接字”或“BSD 套接字”。一开始,套接字被设计用在同一台主机上多个应用程序之间的通讯。这也被称进程间通讯,或 IPC。套接字有两种（或者称为有两个种族）,分别是基于文件型的和基于网络型的。

基于文件类型的套接字家族

　　套接字家族的名字：AF_UNIX

　　unix一切皆文件，基于文件的套接字调用的就是底层的文件系统来取数据，两个套接字进程运行在同一机器，可以通过访问同一个文件系统间接完成通信

基于网络类型的套接字家族

　　套接字家族的名字：AF_INET

　　(还有AF_INET6被用于ipv6，还有一些其他的地址家族，不过，他们要么是只用于某个平台，要么就是已经被废弃，或者是很少被使用，或者是根本没有实现，所有地址家族中，AF_INET是使用最广泛的一个，python支持很多种地址家族，但是由于我们只关心网络编程，所以大部分时候我们只使用AF_INET)

六套接字工作流程

　　生活中的场景：拿起电话先拨号，朋友听到电话铃声后接起电话，这样就为你和你的朋友构建起了连接，可以通话了。等通话结束，则挂掉电话结束通话。

先从服务器端说起。服务器端先初始化Socket，然后与端口绑定(bind)，对端口进行监听(listen)，调用accept阻塞，等待客户端连接。在这时如果有个客户端初始化一个Socket，然后连接服务器(connect)，如果连接成功，这时客户端与服务器端的连接就建立了。客户端发送数据请求，服务器端接收请求并处理请求，然后把回应数据发送给客户端，客户端读取数据，最后关闭连接，一次交互结束

客户端

1 import socket
2 
3 phone = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
4 phone.connect(('127.0.0.1', 8000))  # 拨通电话
5 phone.send('hello'.encode("utf-8"))
6 data = phone.recv(1024)
7 print("收到服务器发来的信息：",data.decode("utf-8"))

服务端

 1 import socket
 2 
 3 phone = socket.socket(socket.AF_INET, socket.SOCK_STREAM)
 4 phone.bind(('127.0.0.1', 8000)) #绑定手机卡
 5 phone.listen(5)  # 代表最多有多少个链接 开机
 6 print("---->")
 7 conn, addr = phone.accept()  # 等电话，拿到链接
 8 msg = conn.recv(1024)  # 收消息
 9 print("客户端发来的消息：", msg.decode("utf-8"))
10 conn.send(msg.upper())  # 发消息
11 
12 conn.close()
13 phone.close()


服务端套接字函数
s.bind()    绑定(主机,端口号)到套接字
s.listen()  开始TCP监听
s.accept()  被动接受TCP客户的连接,(阻塞式)等待连接的到来

客户端套接字函数
s.connect()     主动初始化TCP服务器连接
s.connect_ex()  connect()函数的扩展版本,出错时返回出错码,而不是抛出异常

公共用途的套接字函数
s.recv()            接收TCP数据
s.send()            发送TCP数据(send在待发送数据量大于己端缓存区剩余空间时,数据丢失,不会发完)
s.sendall()         发送完整的TCP数据(本质就是循环调用send,sendall在待发送数据量大于己端缓存区剩余空间时,数据不丢失,循环调用send直到发完)
s.recvfrom()        接收UDP数据
s.sendto()          发送UDP数据
s.getpeername()     连接到当前套接字的远端的地址
s.getsockname()     当前套接字的地址
s.getsockopt()      返回指定套接字的参数
s.setsockopt()      设置指定套接字的参数
s.close()           关闭套接字

面向锁的套接字方法
s.setblocking()     设置套接字的阻塞与非阻塞模式
s.settimeout()      设置阻塞套接字操作的超时时间
s.gettimeout()      得到阻塞套接字操作的超时时间

面向文件的套接字的函数
s.fileno()          套接字的文件描述符
s.makefile()        创建一个与该套接字相关的文件

七基于TCP的套接字

tcp是基于链接的，必须先启动服务端，然后再启动客户端去链接服务端

tcp服务端

1 ss = socket() #创建服务器套接字
2 ss.bind()      #把地址绑定到套接字
3 ss.listen()      #监听链接
4 inf_loop:      #服务器无限循环
5     cs = ss.accept() #接受客户端链接
6     comm_loop:         #通讯循环
7         cs.recv()/cs.send() #对话(接收与发送)
8     cs.close()    #关闭客户端套接字
9 ss.close()        #关闭服务器套接字(可选)

tcp客户端

1 cs = socket()    # 创建客户套接字
2 cs.connect()    # 尝试连接服务器
3 comm_loop:        # 通讯循环
4     cs.send()/cs.recv()    # 对话(发送/接收)
5 cs.close()            # 关闭客户套接字

客户端服务端循环收发消息

 1 from socket import *
 2 ip_port=('127.0.0.5',8080)
 3 back_log = 5
 4 buffer_size = 1024
 5 
 6 tcp_server = socket(AF_INET,SOCK_STREAM)
 7 tcp_server.bind(ip_port)
 8 tcp_server.listen(back_log)
 9 
10 print("服务端开始运行了")
11 conn,addr = tcp_server.accept() #服务端阻塞
12 print("双向链接是",conn)
13 print("客户端地址是",addr)
14 
15 while True:
16     data = conn.recv(buffer_size)
17     print("客户端发来的消息是", data.decode("utf8"))
18     conn.send(data.capitalize())
19 
20 conn.close()
21 tcp_server.close()

服务端

 1 from socket import *
 2 ip_port=('127.0.0.5',8080)
 3 back_log = 5
 4 buffer_size = 1024
 5 
 6 tcp_client = socket(AF_INET,SOCK_STREAM)
 7 tcp_client.connect(ip_port)
 8 
 9 while True:
10     msg = input(">>>>").strip()
11     tcp_client.send(msg.encode("utf8"))
12     print("客户端已经发送消息")
13     data = tcp_client.recv(buffer_size)
14     print("收到服务端发来的信息为：", data.decode("utf8"))
15 
16 tcp_client.close()

客户端

服务端循环链接请求来收发消息

 1 from socket import *
 2 ip_port=('127.0.0.5',8080)
 3 back_log = 5
 4 buffer_size = 1024
 5 
 6 tcp_server = socket(AF_INET,SOCK_STREAM)
 7 tcp_server.bind(ip_port)
 8 tcp_server.listen(back_log)
 9 while True:
10     print("服务端开始运行了")
11     conn, addr = tcp_server.accept()  # 服务端阻塞
12     print("双向链接是", conn)
13     print("客户端地址是", addr)
14     while True:
15         try:
16             data = conn.recv(buffer_size)
17             print("客户端发来的消息是", data.decode("utf8"))
18             conn.send(data.capitalize())
19         except Exception:
20             break
21     conn.close()
22 
23 tcp_server.close()

服务端

 1 from socket import *
 2 ip_port=('127.0.0.5',8080)
 3 back_log = 5
 4 buffer_size = 1024
 5 
 6 tcp_client = socket(AF_INET,SOCK_STREAM)
 7 tcp_client.connect(ip_port)
 8 
 9 while True:
10     msg = input(">>>>").strip()
11     tcp_client.send(msg.encode("utf8"))
12     print("客户端1已经发送消息")
13     data = tcp_client.recv(buffer_size)
14     print("收到服务端发来的信息为：", data.decode("utf8"))
15 
16 tcp_client.close()

客户端

 1 from socket import *
 2 ip_port=('127.0.0.5',8080)
 3 back_log = 5
 4 buffer_size = 1024
 5 
 6 tcp_client = socket(AF_INET,SOCK_STREAM)
 7 tcp_client.connect(ip_port)
 8 
 9 while True:
10     msg = input(">>>>").strip()
11     tcp_client.send(msg.encode("utf8"))
12     print("客户端2已经发送消息")
13     data = tcp_client.recv(buffer_size)
14     print("收到服务端发来的信息为：", data.decode("utf8"))
15 
16 tcp_client.close()

客户端2

八基于UDP的套接字

udp是无链接的，先启动哪一端都不会报错

udp服务端

1 ss = socket()   #创建一个服务器的套接字
2 ss.bind()       #绑定服务器套接字
3 inf_loop:       #服务器无限循环
4     cs = ss.recvfrom()/ss.sendto() # 对话(接收与发送)
5 ss.close()

udp客户端

1 cs = socket()   # 创建客户套接字
2 comm_loop:      # 通讯循环
3     cs.sendto()/cs.recvfrom()   # 对话(发送/接收)
4 cs.close()                      # 关闭客户套接字

示例

1 from socket import *
2 ip_port=("127.0.0.1",8080)
3 buffer_size = 1024
4 udp_server = socket(AF_INET,SOCK_DGRAM) #数据报
5 udp_server.bind(ip_port)
6 while True:
7     data,addr = udp_server.recvfrom(buffer_size)
8     print(data)
9     udp_server.sendto(data.upper(),addr)

udp服务端

 1 from socket import *
 2 ip_port=("127.0.0.1",8080)
 3 buffer_size = 1024
 4 udp_client = socket(AF_INET,SOCK_DGRAM) #数据报
 5 
 6 while True:
 7     msg = input(">>>").strip()
 8     if not msg:
 9         continue
10     udp_client.sendto(msg.encode("utf8"),ip_port)
11     data,addr = udp_client.recvfrom(buffer_size)
12     print(data.decode("utf8"))

udp客户端

九 recv和recvfrom的区别

recv在自己这端的缓存区为空时，阻塞

recvfrom在自己这端的缓存区为空时，接受一个空

十粘包模式

基于tcp实现远程命令运行结果

 1 from socket import *
 2 import subprocess
 3 ip_port=("127.0.1.1",8060)
 4 back_log = 5
 5 buffer_size=1024
 6 
 7 tcp_server=socket(AF_INET,SOCK_STREAM)
 8 tcp_server.bind(ip_port)
 9 tcp_server.listen(back_log)
10 
11 while True:
12     conn,addr=tcp_server.accept()
13     print("新的客户端链接:",addr)
14     while True:
15         #收
16         try:
17             cmd = conn.recv(buffer_size)
18             print("收到客户端的命令：", cmd)
19             # 执行命令，得到命令的运行结果cmd_res
20             res = subprocess.Popen(cmd.decode("utf8"), shell=True,
21                                    stderr=subprocess.PIPE,
22                                    stdout=subprocess.PIPE,
23                                    stdin=subprocess.PIPE)
24             err = res.stderr.read()
25             if err:
26                 cmd_res = err
27             else:
28                 cmd_res = res.stdout.read()
29                 # 发
30 
31             if not cmd_res:
32                 cmd_res = "执行成功".encode("gbk")
33             conn.send(cmd_res)
34         except Exception as e:
35             print(e)
36             break

tcp服务端

 1 from socket import *
 2 ip_port=("127.0.1.1",8060)
 3 back_log = 5
 4 buffer_size=1024
 5 tcp_client = socket(AF_INET,SOCK_STREAM)
 6 tcp_client.connect(ip_port)
 7 while True:
 8     cmd = input(">>>>>").strip()
 9     if not cmd: continue
10     if cmd =="quit":break
11     tcp_client.send(cmd.encode("utf8"))
12     cmd_res = tcp_client.recv(buffer_size)
13     print("命令的执行结果是：",cmd_res.decode("gbk"))
14 tcp_client.close()

tcp客户端

　　上述程序是基于tcp的socket，在运行时会发生粘包

基于udp实现远程命令运行结果

 1 from socket import *
 2 import subprocess
 3 ip_port=("127.7.7.1",8080)
 4 back_log=5
 5 buffer_size =1024
 6 
 7 udp_server=socket(AF_INET,SOCK_DGRAM)
 8 udp_server.bind(ip_port)
 9 while True:
10     #收消息
11     cmd,addr = udp_server.recvfrom(buffer_size)
12     res = subprocess.Popen(cmd.decode("utf8"), shell=True,
13                            stderr=subprocess.PIPE,
14                            stdout=subprocess.PIPE,
15                            stdin=subprocess.PIPE)
16     err = res.stderr.read()
17     if err:
18         cmd_res = err
19     else:
20         cmd_res = res.stdout.read()
21     if not cmd_res:
22         cmd_res = "执行成功".encode("gbk")
23     #发消息
24     udp_server.sendto(cmd_res,addr)

udp服务端

 1 from socket import *
 2 ip_port=("127.7.7.1",8080)
 3 back_log = 5
 4 buffer_size=1024
 5 udp_client = socket(AF_INET,SOCK_DGRAM)
 6 
 7 while True:
 8     cmd = input(">>>>>").strip()
 9     if not cmd: continue
10     if cmd =="quit":break
11     udp_client.sendto(cmd.encode("utf8"),ip_port)
12     cmd_res,addr= udp_client.recvfrom(buffer_size)
13     print("命令的执行结果是：",cmd_res.decode("gbk"))
14 udp_client.close()

udp客户端

　　上述程序是基于udp的socket，在运行时永远不会发生粘包

十一什么是粘包

只有tcp会发生粘包，udp永远不会发生粘包

socket收发信息的原理：

　　发送端可以是一K一K地发送数据，而接收端的应用程序可以两K两K地提走数据，当然也有可能一次提走3K或6K数据，或者一次只提走几个字节的数据，也就是说，应用程序所看到的数据是一个整体，或说是一个流（stream），一条消息有多少字节对应用程序是不可见的，因此TCP协议是面向流的协议，这也是容易出现粘包问题的原因。而UDP是面向消息的协议，每个UDP段都是一条消息，应用程序必须以消息为单位提取数据，不能一次提取任意字节的数据，这一点和TCP是很不同的。怎样定义消息呢？可以认为对方一次性write/send的数据为一个消息，需要明白的是当对方send一条信息的时候，无论底层怎样分段分片，TCP协议层会把构成整条消息的数据段排序完成后才呈现在内核缓冲区。

　　例如基于tcp的套接字客户端往服务端上传文件，发送时文件内容是按照一段一段的字节流发送的，在接收方看了，根本不知道该文件的字节流从何处开始，在何处结束

　　所谓粘包问题主要还是因为接收方不知道消息之间的界限，不知道一次性提取多少字节的数据所造成的。

　　此外，发送方引起的粘包是由TCP协议本身造成的，TCP为提高传输效率，发送方往往要收集到足够多的数据后才发送一个TCP段。若连续几次需要send的数据都很少，通常TCP会根据优化算法把这些数据合成一个TCP段后一次发送出去，这样接收方就收到了粘包数据。

TCP（transport control protocol，传输控制协议）是面向连接的，面向流的，提供高可靠性服务。收发两端（客户端和服务器端）都要有一一成对的socket，因此，发送端为了将多个发往接收端的包，更有效的发到对方，使用了优化方法（Nagle算法），将多次间隔较小且数据量小的数据，合并成一个大的数据块，然后进行封包。这样，接收端，就难于分辨出来了，必须提供科学的拆包机制。即面向流的通信是无消息保护边界的。
UDP（user datagram protocol，用户数据报协议）是无连接的，面向消息的，提供高效率服务。不会使用块的合并优化算法，, 由于UDP支持的是一对多的模式，所以接收端的skbuff(套接字缓冲区）采用了链式结构来记录每一个到达的UDP包，在每个UDP包中就有了消息头（消息来源地址，端口等信息），这样，对于接收端来说，就容易进行区分处理了。 即面向消息的通信是有消息保护边界的。
tcp是基于数据流的，于是收发的消息不能为空，这就需要在客户端和服务端都添加空消息的处理机制，防止程序卡住，而udp是基于数据报的，即便是你输入的是空内容（直接回车），那也不是空消息，udp协议会帮你封装上消息头，实验略

　　udp的recvfrom是阻塞的，一个recvfrom(x)必须对唯一一个sendinto(y),收完了x个字节的数据就算完成,若是y>x数据就丢失，这意味着udp根本不会粘包，但是会丢数据，不可靠

　　tcp的协议数据不会丢，没有收完包，下次接收，会继续上次继续接收，己端总是在收到ack时才会清除缓冲区内容。数据是可靠的，但是会粘包。

两种情况下会发生粘包。

　　发送端需要等缓冲区满才发送出去，造成粘包（发送数据时间间隔很短，数据了很小，会合到一起，产生粘包）

　　接收方不及时接收缓冲区的包，造成多个包接收（客户端发送了一段数据，服务端只收了一小部分，服务端下次再收的时候还是从缓冲区拿上次遗留的数据，产生粘包）