之前我们已经了解了很多进程相关的理论知识,了解进程是什么应该不再困难了,刚刚我们已经了解了,运行中的程序就是一个进程。所有的进程都是通过它的父进程来创建的。因此,运行起来的python程序也是一个进程,那么我们也可以在程序中再创建进程。多个进程可以实现并发效果,也就是说,当我们的程序中存在多个进程的时候,在某些时候,就会让程序的执行速度变快。以我们之前所学的知识,并不能实现创建进程这个功能,所以我们就需要借助python中强大的模块。
multiprocess模块
仔细说来,multiprocess不是一个模块而是python中一个操作、管理进程的包。 之所以叫multi是取自m ultiple的多功能的意思,在这个包中几乎包含了和进程有关的所有子模块。由于提供的子模块非常多,为了方便大家归类记忆,我将这部分大致分为四个部分:创建进程部分,进程同步部分,进程池部分,进程之间数据共享。
一、multiprocess.process模块
process模块介绍
process模块是一个创建进程的模块,借助这个模块,就可以完成进程的创建。
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,表示一个子进程中的任务(尚未启动)
强调:
1. 需要使用关键字的方式来指定参数
2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
1 group参数未使用,值始终为None
2 target表示调用对象,即子进程要执行的任务
3 args表示调用对象的位置参数元组,args=(1,2,'egon',)
4 kwargs表示调用对象的字典,kwargs={'name':'egon','age':18}
5 name为子进程的名称
方法介绍
1 p.start():启动进程,并调用该子进程中的p.run()
2 p.run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
3 p.terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
4 p.is_alive():如果p仍然运行,返回True
5 p.join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间,需要强调的是,p.join只能join住start开启的进程,而不能join住run开启的进程
属性介绍
1 p.daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
2 p.name:进程的名称
3 p.pid:进程的pid
4 p.exitcode:进程在运行时为None、如果为–N,表示被信号N结束(了解即可)
5 p.authkey:进程的身份验证键,默认是由os.urandom()随机生成的32字符的字符串。这个键的用途是为涉及网络连接的底层进程间通信提供安全性,这类连接只有在具有相同的身份验证键时才能成功(了解即可)
在windows中使用process模块的注意事项
在Windows操作系统中由于没有fork(linux操作系统中创建进程的机制),在创建子进程的时候会自动 import 启动它的这个文件,而在 import 的时候又执行了整个文件。因此如果将process()直接写在文件中就会无限递归创建子进程报错。所以必须把创建子进程的部分使用if __name__ ==‘__main__’ 判断保护起来,import 的时候 ,就不会递归运行了。
windows操作系统下创建进程
# encoding=utf-8
# auther:lsj
# 进程的第一种方式
from multiprocessing import Process
import time
def task(name):
print('%s is running'%name)
time.sleep(3)
print('%s is over' %name)
# windows系统下
if __name__ == '__main__':
# 创建进程的代码
# 1、创建一个对象
p = Process(target=task,args=('lsj',))
# 2、开启进程
p.start() # 告诉操作系统帮你创建一个进程:异步展示
print('主')
# encoding=utf-8
# auther:lsj
# 进程的第二种方式 类的继承
from multiprocessing import Process
import time
class MyProcess(Process):
def run(self):
print('hello bf girl')
time.sleep(1)
print('get out!!')
if __name__ == '__main__':
p = MyProcess()
p.start()
print('主')
总结:
创建进程就是在内存中申请一块内存空间将需要运行的代码丢进去。
一个进程对应在内存中就是一块独立的内存空间。
多个进程对应在内存中就是多块独立的内存空间。
进程与进程之间数据默认情况下是无法直接交互,如过想交互可以借助第三方工具或者模块
二、使用process模块创建进程
在一个python进程中开启子进程,start方法和并发效果。
import time
from multiprocessing import Process
def f(name):
print('hello', name)
print('我是子进程')
if __name__ == '__main__':
p = Process(target=f, args=('lsj',))
p.start()
time.sleep(1)
print('执行主进程的内容了')
import time
from multiprocessing import Process
def f(name):
print('hello', name)
time.sleep(1)
print('我是子进程')
if __name__ == '__main__':
p = Process(target=f, args=('bob',))
p.start()
#p.join() # 主进程等待子进程p运行结束之后再继续往后执行
print('我是父进程')
import os
from multiprocessing import Process
def f(x):
print('子进程id :',os.getpid(),'父进程id :',os.getppid())
return x*x
if __name__ == '__main__':
print('主进程id :', os.getpid())
p_lst = []
for i in range(5):
p = Process(target=f, args=(i,))
p.start()
进阶,多个进程同时运行(注意,子进程的执行顺序不是根据启动顺序决定的)
import time
from multiprocessing import Process
def f(name):
print('hello', name)
time.sleep(1)
if __name__ == '__main__':
p_lst = []
for i in range(5):
p = Process(target=f, args=('bob',))
p.start()
p_lst.append(p)
import time
from multiprocessing import Process
def f(name):
print('hello', name)
time.sleep(1)
if __name__ == '__main__':
p_lst = []
for i in range(5):
p = Process(target=f, args=('bob',))
p.start()
p_lst.append(p)
p.join()
# [p.join() for p in p_lst]
print('父进程在执行')
import time
from multiprocessing import Process
def f(name):
print('hello', name)
time.sleep(1)
if __name__ == '__main__':
p_lst = []
for i in range(5):
p = Process(target=f, args=('bob',))
p.start()
p_lst.append(p)
# [p.join() for p in p_lst]
print('父进程在执行')
除了上面这些开启进程的方法,还有一种以继承Process类的形式开启进程的方式
import os
from multiprocessing import Process
class MyProcess(Process):
def __init__(self,name):
super().__init__()
self.name=name
def run(self):
print(os.getpid())
print('%s 正在和女主播聊天' %self.name)
p1=MyProcess('wupeiqi')
p2=MyProcess('yuanhao')
p3=MyProcess('nezha')
p1.start() #start会自动调用run
p2.start()
# p2.run()
p3.start()
p1.join()
p2.join()
p3.join()
print('主线程')
进程之间的数据隔离问题(默认情况下进程间数据是相互隔离的)
from multiprocessing import Process
def work():
global n
n=0
print('子进程内: ',n)
if __name__ == '__main__':
n = 100
p=Process(target=work)
p.start()
print('主进程内: ',n)
三、进程对象
一台计算机上面运行着很多进程,那么计算机时如何区分并管理这些进程服务端的呢?
计算机会给每一个运行的进程分配一个PID号(pid号也叫做进程号)
如何查看pid?
1、windows电脑
进入cmd输入tasklist命令,即可查看所有的服务以及对应的pid号。
tasklist | findstr PID查看具体的进程
2、mac电脑
进入终端之后输入ps aux命令。
ps aux | grep PID查看具体的进程。
current_process:查看当前进程。
current_process().pid:查看当前进程号。
os.getpid():查看当前进程号
os.getppid():查看当前进程的父进程号
# encoding=utf-8
# auther:lsj
# 进程对象
from multiprocessing import Process,current_process
import time
def task():
print('%s is running'%current_process().pid) # 查看当前进程的进程号
time.sleep(30)
if __name__ == '__main__':
p = Process(target=task,args=())
p.start()
# print('主',current_process().pid)
print('主',current_process().pid)
运行结果:
D:Python38python.exe D:/day039/day039_03进程对象及其他方法.py
主 864
13760 is running
p.terminate() # 杀死当前进程
is_alive() # 判断当前进程是否存活
一般情况下,我们会默认将存储bool值的变量名 和 返回的结果是bool值的方法名都起成'is_'开头
# encoding=utf-8
# auther:lsj
# 进程对象
from multiprocessing import Process,current_process
import time
import os
def task():
print('%s is running'%os.getpid()) # 查看当前进程的进程号
time.sleep(3)
if __name__ == '__main__':
p = Process(target=task,args=())
p.start()
p.terminate() # 杀死当前进程,告诉操作系统帮你去杀死当前进程,需要一定的时间,而代码的运行速度极快,所以后面要给点时间
time.sleep(0.1) # 如果不加时间,最后的运行结果是True
print(p.is_alive()) # 判断当前进程是否存活
print('主')
运行结果:
D:Python38python.exe D:/day039/day039_03_01进程对象及其他方法.py
False
主
四、僵尸进程(了解)
僵尸进程:
什么是僵尸:死了但没有死透。
僵尸进程:当你开设了子进程之后,该进程死后不会立即释放占用的进程号。因为我要让父进程能够查看到它开设的子进程的一些基本的信息,占用的pid号 运行时间
所有的进程都会步入僵尸进程。
父进程不死并且无限制的创建子进程并且子进程也不结束
父进程回收子进程占用的pid号的方式:
(1)父进程等待子进程运行结束
(2)父进程调用join方法
五、孤儿进程(了解)
孤儿进程:子进程存活,父进程意外死亡。(这时候没有人回收子进程的pid号)
操作系统会开设一个回收机制(该机制类似于‘儿童福利院’)专门管理孤儿进程回收相关资源。
六、守护进程
什么是守护进程:默认启动的服务随着操作系统是启动而启动,随着操作系统的关闭而关闭。(古代君王死后陪葬)
守护进程的作用:会随着主进程的结束而结束。
主进程创建守护进程
其一:守护进程会在主进程代码执行结束后就终止
其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children
注意:进程之间是互相独立的,主进程代码运行结束,守护进程随即终止。
# encoding=utf-8
# auther:lsj
# 守护进程
from multiprocessing import Process
import time
def task(name):
# def task(name='li'):
print('%s总管正常活着'%name)
time.sleep(3)
print('%s总管正常死亡'%name)
if __name__ == '__main__':
p = Process(target=task,args=('li',))
# p = Process(target=task,kwargs={'name':'li'})
p.daemon = True # 将进程p设置成守护进程,一定放在start()方法上面才有效否则报错:AssertionError: process has already started(该进程已经启动了)
p.start()
print('皇帝王寿终正寝')
运行结果:
D:Python38python.exe D:/pycharm/oldboy_29/day039/day039_05守护进程.py
皇帝王寿终正寝
import os
import time
from multiprocessing import Process
class Myprocess(Process):
def __init__(self,person):
super().__init__()
self.person = person
def run(self):
print(os.getpid(),self.name)
print('%s正在和女主播聊天' %self.person)
p=Myprocess('哪吒')
p.daemon=True #一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行
p.start()
time.sleep(10) # 在sleep时查看进程id对应的进程ps -ef|grep id
print('主')
from multiprocessing import Process
def foo():
print(123)
time.sleep(1)
print("end123")
def bar():
print(456)
time.sleep(3)
print("end456")
p1=Process(target=foo)
p2=Process(target=bar)
p1.daemon=True
p1.start()
p2.start()
time.sleep(0.1)
print("main-------")#打印该行则主进程代码结束,则守护进程p1应该被终止.#可能会有p1任务执行的打印信息123,因为主进程打印main----时,p1也执行了,但是随即被终止.
七、socket聊天并发实例
from socket import *
from multiprocessing import Process
server=socket(AF_INET,SOCK_STREAM)
server.setsockopt(SOL_SOCKET,SO_REUSEADDR,1)
server.bind(('127.0.0.1',8080))
server.listen(5)
def talk(conn,client_addr):
while True:
try:
msg=conn.recv(1024)
if not msg:break
conn.send(msg.upper())
except Exception:
break
if __name__ == '__main__': #windows下start进程一定要写到这下面
while True:
conn,client_addr=server.accept()
p=Process(target=talk,args=(conn,client_addr))
p.start()
from socket import *
client=socket(AF_INET,SOCK_STREAM)
client.connect(('127.0.0.1',8080))
while True:
msg=input('>>: ').strip()
if not msg:continue
client.send(msg.encode('utf-8'))
msg=client.recv(1024)
print(msg.decode('utf-8'))
八、多进程中的其他方法
from multiprocessing import Process
import time
import random
class Myprocess(Process):
def __init__(self,person):
self.name=person
super().__init__()
def run(self):
print('%s正在和网红脸聊天' %self.name)
time.sleep(random.randrange(1,5))
print('%s还在和网红脸聊天' %self.name)
p1=Myprocess('哪吒')
p1.start()
p1.terminate()#关闭进程,不会立即关闭,所以is_alive立刻查看的结果可能还是存活
print(p1.is_alive()) #结果为True
print('开始')
print(p1.is_alive()) #结果为False
1 class Myprocess(Process):
2 def __init__(self,person):
3 self.name=person # name属性是Process中的属性,标示进程的名字
4 super().__init__() # 执行父类的初始化方法会覆盖name属性
5 #self.name = person # 在这里设置就可以修改进程名字了
6 #self.person = person #如果不想覆盖进程名,就修改属性名称就可以了
7 def run(self):
8 print('%s正在和网红脸聊天' %self.name)
9 # print('%s正在和网红脸聊天' %self.person)
10 time.sleep(random.randrange(1,5))
11 print('%s正在和网红脸聊天' %self.name)
12 # print('%s正在和网红脸聊天' %self.person)
13
14
15 p1=Myprocess('哪吒')
16 p1.start()
17 print(p1.pid) #可以查看子进程的进程id
九、互斥锁
场景模拟:我们使用12306购票,甲10:10向服务端发送请求,服务端传给甲的状态是服务器10:10的状态,还有10张票。于此同时乙、丙、丁等人也向服务端发送请求,并都购买了票。此时的甲看不到服务器修改后的数据,当甲10:30再次访问服务器的时候,甲才能看到服务器状态已经改变了。
互斥锁模拟抢票功能
# encoding=utf-8
# auther:lsj
# 互斥锁模拟抢票功能
from multiprocessing import Process
import json
import time
import random
# 查票
def search(i):
# 文件操作读取票数
with open('data',mode='r',encoding='utf-8') as f:
dic = json.load(f)
print('用户%s查询余票:%s'%(i,dic.get('ticket_num')))
# 字典取值不要用[]的形式,推荐使用get方法,不会出现报错
# 买票步骤:1)先查。2)再买
def buy(i):
# 先查票
with open('data',mode='r',encoding='utf-8') as f:
dic = json.load(f)
# 模拟网络延迟
time.sleep(random.randint(1,3))
# 判断当前是否有票
if dic.get('ticket_num') > 0:
# 修改数据库 买票
dic['ticket_num'] -= 1
# 写入数据库
with open('data','w',encoding='utf8') as f:
json.dump(dic,f) # 字典写入文件内
print('用户%s买票成功'%i)
else:
print('用户%s买票失败'%i)
# 整合上面两个函数的功能
def run(i):
search(i)
buy(i)
if __name__ == '__main__':
for i in range(1,11): # 打开多个进程10个i
p = Process(target=run,args=(i,))
p.start()
data文件,票数为1张
{"ticket_num": 1}
运行结果如下,就一张票,但是每个人都强到票了,这就有问题了。
D:Python38python.exe D:/pycharm/oldboy_29/day039/day039_06互斥锁模拟抢票功能.py
用户1查询余票:1
用户3查询余票:1
用户2查询余票:1
用户4查询余票:1
用户5查询余票:1
用户6查询余票:1
用户7查询余票:1
用户8查询余票:1
用户9查询余票:1
用户10查询余票:1
用户1买票成功
用户7买票成功
用户10买票成功
用户3买票成功
用户5买票成功
用户8买票成功
用户9买票成功
用户2买票成功
用户4买票成功
用户6买票成功
Process finished with exit code 0
结论:多个进程操作同一份数据的时候,会出现数据错乱的问题。针对该问题的解决方式,就是枷锁处理,将并发变成串行,牺牲效率但是保证了数据的安全。
加入锁:
# encoding=utf-8
# auther:lsj
# 互斥锁模拟抢票功能完整版
from multiprocessing import Process,Lock
import json
import time
import random
# 查票
def search(i):
# 文件操作读取票数
with open('data',mode='r',encoding='utf-8') as f:
dic = json.load(f)
print('用户%s查询余票:%s'%(i,dic.get('ticket_num')))
# 字典取值不要用[]的形式,推荐使用get方法,不会出现报错
# 买票步骤:1)先查。2)再买
def buy(i):
# 先查票
with open('data',mode='r',encoding='utf-8') as f:
dic = json.load(f)
# 模拟网络延迟
time.sleep(random.randint(1,3))
# 判断当前是否有票
if dic.get('ticket_num') > 0:
# 修改数据库 买票
dic['ticket_num'] -= 1
# 写入数据库
with open('data','w',encoding='utf8') as f:
json.dump(dic,f) # 字典写入文件内
print('用户%s买票成功'%i)
else:
print('用户%s买票失败'%i)
# 整合上面两个函数的功能
def run(i,mutex):
search(i)
# 给买票环节加锁处理
# 抢锁
mutex.acquire()
buy(i)
# 释放锁
mutex.release()
if __name__ == '__main__':
# 在主进程中生成一把锁,让所有的子进程抢,谁先抢到谁先买票
mutex = Lock()
for i in range(1,11): # 打开多个进程10个i
p = Process(target=run,args=(i,mutex,))
p.start()
运行结果:
D:Python38python.exe D:/pycharm/oldboy_29/day039/day039_06互斥锁模拟抢票功能改进版.py
用户2查询余票:1
用户1查询余票:1
用户3查询余票:1
用户4查询余票:1
用户7查询余票:1
用户5查询余票:1
用户6查询余票:1
用户8查询余票:1
用户9查询余票:1
用户10查询余票:1
用户2买票成功
用户1买票失败
用户3买票失败
用户4买票失败
用户7买票失败
用户5买票失败
用户6买票失败
用户8买票失败
用户9买票失败
用户10买票失败
Process finished with exit code 0
十、进程同步(multiprocess.Lock) 锁 —— multiprocess.Lock
通过刚刚的学习,我们千方百计实现了程序的异步,让多个任务可以同时在几个进程中并发处理,他们之间的运行没有顺序,一旦开启也不受我们控制。尽管并发编程让我们能更加充分的利用IO资源,但是也给我们带来了新的问题。
当多个进程使用同一份数据资源的时候,就会引发数据安全或顺序混乱问题。
import os
import time
import random
from multiprocessing import Process
def work(n):
print('%s: %s is running' %(n,os.getpid()))
time.sleep(random.random())
print('%s:%s is done' %(n,os.getpid()))
if __name__ == '__main__':
for i in range(3):
p=Process(target=work,args=(i,))
p.start()
# 由并发变成了串行,牺牲了运行效率,但避免了竞争
import os
import time
import random
from multiprocessing import Process,Lock
def work(lock,n):
lock.acquire()
print('%s: %s is running' % (n, os.getpid()))
time.sleep(random.random())
print('%s: %s is done' % (n, os.getpid()))
lock.release()
if __name__ == '__main__':
lock=Lock()
for i in range(3):
p=Process(target=work,args=(lock,i))
p.start()
上面这种情况虽然使用加锁的形式实现了顺序的执行,但是程序又重新变成串行了,这样确实会浪费了时间,却保证了数据的安全。
接下来,我们以模拟抢票为例,来看看数据安全的重要性。
#文件db的内容为:{"count":1}
#注意一定要用双引号,不然json无法识别
#并发运行,效率高,但竞争写同一文件,数据写入错乱
from multiprocessing import Process,Lock
import time,json,random
def search():
dic=json.load(open('db'))
print('