什么是进程:正在进行的一个过程或者说一个任务。而负责执行任务则是cpu。但凡是硬件,都需要有操作系统去管理,只要有操作系统,就有进程的概念,就需要有创建进程的方式,一些操作系统只为一个应用程序设计,比如微波炉中的控制器,一旦启动微波炉,所有的进程都已经存在。
而对于通用系统(跑很多应用程序),需要有系统运行过程中创建或撤销进程的能力,主要分为4中形式创建新的进程
-
系统初始化(查看进程linux中用ps命令,windows中用任务管理器,前台进程负责与用户交互,后台运行的进程与用户无关,运行在后台并且只在需要时才唤醒的进程,称为守护进程,如电子邮件、web页面、新闻、打印)
-
一个进程在运行过程中开启了子进程(如nginx开启多进程,os.fork,subprocess.Popen等)
-
用户的交互式请求,而创建一个新进程(如用户双击暴风影音)
-
一个批处理作业的初始化(只在大型机的批处理系统中应用)
#!/urs/bin/evn python # -*- coding:utf-8 -*- import time import random from multiprocessing import Process def main(name): print('%s names' % name) time.sleep(random.randrange(1, 5)) print('%s names' % name) if __name__ == '__main__': p1 = Process(target=main, args=('cc',)) p2 = Process(target=main, args=('zq',)) p1.start() p2.start() print('主')
注意:在windows中Process()必须放到# if __name__ == '__main__':下
# 创建并开启子进程的方式二 import time import random from multiprocessing import Process class Mian(Process): def __init__(self, name): super().__init__() self.name = name def run(self): print('%s name ' % self.name) time.sleep(random.randrange(1, 5)) print('%s name ' % self.name) if __name__ == '__main__': p1 = Mian('cc') p2 = Mian('zq') p1.start() p2.start()
Process([group [, target [, name [, args [, kwargs]]]]]),由该类实例化得到的对象,可用来开启一个子进程 强调: 1. 需要使用关键字的方式来指定参数 2. args指定的为传给target函数的位置参数,是一个元组形式,必须有逗号
参数介绍:
group参数未使用,值始终为None target表示调用对象,即子进程要执行的任务 args表示调用对象的位置参数元组,args=('cc',) kwargs表示调用对象的字典,kwargs={'name':'cc','age':18} name为子进程的名称
方法介绍:
start():启动进程,并调用该子进程中的p.run()
join([timeout]):主线程等待p终止(强调:是主线程处于等的状态,而p是处于运行的状态)。timeout是可选的超时时间。
run():进程启动时运行的方法,正是它去调用target指定的函数,我们自定义类的类中一定要实现该方法
terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁
is_alive():如果进程仍然运行,返回True
属性介绍:
daemon:默认值为False,如果设为True,代表p为后台运行的守护进程,当p的父进程终止时,p也随之终止,并且设定为True后,p不能创建自己的新进程,必须在p.start()之前设置
name:进程的名称
pid:进程的pid
#!/urs/bin/evn python # -*- coding:utf-8 -*- import time import random from multiprocessing import Process def task(name): print('%s is name' % name) time.sleep(random.randrange(1, 5)) print('%s is name' % name) if __name__ == '__main__': p1 = Process(target=task, args=('cc',)) p1.start() p1.terminate() # 关闭进程,不会立即关闭is_alive立刻查看可能还是存活 print(p1.is_alive()) print('zhu') print(p1.is_alive())
#!/urs/bin/evn python # -*- coding:utf-8 -*- import os import time import random from multiprocessing import Process def task(): print('%s is main' % os.getpid()) time.sleep(random.randrange(1, 3)) print('%s is main' % os.getpid()) if __name__ == '__main__': p1 = Process(target=task) p2 = Process(target=task) p3 = Process(target=task) p1.start() p1.join() p2.start() p2.join() p3.start() p3.join() print('zhu') ''' terminate():强制终止进程p,不会进行任何清理操作,如果p创建了子进程,该子进程就成了僵尸进程,使用该方法需要特别小心这种情况。如果p还保存了一个锁那么也将不会被释放,进而导致死锁 is_alive():如果进程仍然运行,返回True. 上述启动进程与join进程可以简写为 p_l=[p1,p2,p3] for p in p_l: p.start() for p in p_l: p.join() '''
import time import random from multiprocessing import Process def task(name): print('%s is name' % name) time.sleep(random.randrange(1, 5)) print('%s is name end' % name) if __name__ == '__main__': p1 = Process(target=task, args=('cc',), name='子进程1') # 可以用关键参数来指定进程名 p1.start() p1.join() print(p1.name, p1.pid,)
守护进程:
#!/urs/bin/evn python # -*- coding:utf-8 -*- import os import time import random from multiprocessing import Process def task(name): print('%s is name' % name) time.sleep(random.randrange(1, 3)) print('%s is name' % name) if __name__ == '__main__': p = Process(target=task, args=('cc',)) p.daemon = True # 一定要在p.start()前设置,设置p为守护进程,禁止p创建子进程,并且父进程代码执行结束,p即终止运行 p.start() p.join() print('zhu') ''' 其一:守护进程会在主进程代码执行结束后就终止 其二:守护进程内无法再开启子进程,否则抛出异常:AssertionError: daemonic processes are not allowed to have children '''
import os from time import sleep from multiprocessing import Process # 子进程要执行的代码 def run_proc(name, age, **kwargs): for i in range(10): print('子进程运行中,name= %s,age=%d ,pid=%d...' % (name, age, os.getpid())) print(kwargs) sleep(0.5) if __name__ == '__main__': print('父进程 %d.' % os.getpid()) p = Process(target=run_proc, args=('test', 18), kwargs={"m": 20}) print('子进程将要执行') p.start() sleep(1) p.terminate() p.join() print('子进程已结束')
#!/urs/bin/evn python # -*- coding=utf-8 -*- import time import os from multiprocessing import Process # 两个子进程将会调用的两个方法 def worker_1(interval): print("worker_1,父进程(%s),当前进程(%s)" % (os.getppid(), os.getpid())) t_start = time.time() time.sleep(interval) # 程序将会被挂起interval秒 t_end = time.time() print("worker_1,执行时间为'%0.2f'秒" % (t_end - t_start)) def worker_2(interval): print("worker_2,父进程(%s),当前进程(%s)" % (os.getppid(), os.getpid())) t_start = time.time() time.sleep(interval) t_end = time.time() print("worker_2,执行时间为'%0.2f'秒" % (t_end - t_start)) if __name__ == '__main__': # 输出当前程序的ID print("进程ID:%s" % os.getpid()) # 创建两个进程对象,target指向这个进程对象要执行的对象名称, # args后面的元组中,是要传递给worker_1方法的参数, # 因为worker_1方法就一个interval参数,这里传递一个整数2给它, # 如果不指定name参数,默认的进程对象名称为Process-N,N为一个递增的整数 p1 = Process(target=worker_1, args=(2,)) p2 = Process(target=worker_2, name="dongGe",args=(1,)) # 使用"进程对象名称.start()"来创建并执行一个子进程, # 这两个进程对象在start后,就会分别去执行worker_1和worker_2方法中的内容 p1.start() p2.start() # 同时父进程仍然往下执行,如果p2进程还在执行,将会返回True print("p2.is_alive=%s" % p2.is_alive()) # 输出p1和p2进程的别名和pid print("p1.name=%s" % p1.name) print("p1.pid=%s" % p1.pid) print("p2.name=%s" % p2.name) print("p2.pid=%s" % p2.pid) # join括号中不携带参数,表示父进程在这个位置要等待p1进程执行完成后, # 再继续执行下面的语句,一般用于进程间的数据同步,如果不写这一句, # 下面的is_alive判断将会是True,在shell(cmd)里面调用这个程序时 # 可以完整的看到这个过程,大家可以尝试着将下面的这条语句改成p1.join(1), # 因为p2需要2秒以上才可能执行完成,父进程等待1秒很可能不能让p1完全执行完成, # 所以下面的print会输出True,即p1仍然在执行 p1.join() print("p1.is_alive=%s" % p1.is_alive())
进程池Pool
当需要创建的子进程数量不多时,可以直接利用multiprocessing中的Process动态成生多个进程,但如果是上百甚至上千个目标,手动的去创建进程的工作量巨大,此时就可以用到multiprocessing模块提供的Pool方法。
初始化Pool时,可以指定一个最大进程数,当有新的请求提交到Pool中时,如果池还没有满,那么就会创建一个新的进程用来执行该请求;但如果池中的进程数已经达到指定的最大值,那么该请求就会等待,直到池中有进程结束,才会创建新的进程来执行。
import os import time, random from multiprocessing import Pool def worker(msg): t_start = time.time() print("%s开始执行,进程号为%d" % (msg, os.getpid())) time.sleep((random.random()*2)) t_stop = time.time() print(msg, "执行完毕,耗时%0.2f" % (t_stop - t_start)) if __name__ == '__main__': pl = Pool(3) # 定义一个进程池,最大进程数为3 for i in range(10): pl.apply_async(worker, (i,)) # apply_async(要调用的目标,(传递给目标的参数元祖,)) # 每次循环将会用空闲出来的子进程去调用目标 print("----start----") pl.close() # 关闭进程池,关闭后pl不再接收新的请求 pl.join() # 等待pl中所有子进程执行完成,必须放在close语句之后 print("-----end-----")
multiprocessing.Pool常用函数解析:
-
apply_async(func[, args[, kwds]]) :使用非阻塞方式调用func(并行执行,堵塞方式必须等待上一个进程退出才能执行下一个进程),args为传递给func的参数列表,kwds为传递给func的关键字参数列表;
-
apply(func[, args[, kwds]]):使用阻塞方式调用func
-
close():关闭Pool,使其不再接受新的任务;
-
terminate():不管任务是否完成,立即终止;
-
join():主进程阻塞,等待子进程的退出, 必须在close或terminate之后使用;
!/urs/bin/evn python # -*- coding:utf-8 -*- import os import time, random from multiprocessing import Pool def worker(msg): t_start = time.time() print("%s开始执行,进程号为%d" % (msg, os.getpid())) time.sleep((random.random()*2)) t_stop = time.time() print(msg, "执行完毕,耗时%0.2f" % (t_stop - t_start)) if __name__ == '__main__': pl = Pool(3) # 定义一个进程池,最大进程数为3 for i in range(10): pl.apply(worker, (i,)) # apply(要调用的目标,(传递给目标的参数元祖,)) # 每次循环将会用空闲出来的子进程去调用目标 print("----start----") pl.close() # 关闭进程池,关闭后pl不再接收新的请求 pl.join() # 等待pl中所有子进程执行完成,必须放在close语句之后 print("-----end-----")
全局变量或变量不共享数据
#!/urs/bin/evn python # -*- coding:utf-8 -*- import os import time from multiprocessing import Process nums = [11, 22] def work1(): print('in process1 pid = %d, nums=%s'% (os.getpid(), nums)) for i in range(3): nums.append(i) time.sleep(3) print('in process1 pid = %d, nums=%s'% (os.getpid(), nums)) def work2(): print('in process2 pid = %d, nums=%s'% (os.getpid(), nums)) if __name__ == '__main__': p1 = Process(target=work1) p2 = Process(target=work2) p1.start() p2.start() p1.join() p2.join()
互斥锁
进程之间数据不共享,但是共享同一套文件系统,所以访问同一个文件,或同一个打印终端,是没有问题的,而共享带来的是竞争,竞争带来的结果就是错乱。互斥锁的工作原理就是多个人都要去争抢同一个资源,就是把并发改成行,降低了效率,但保证了数据安全不错乱
#!/urs/bin/evn python # -*- coding:utf-8 -*- import os import time from multiprocessing import Process def work(): print('%s is running' % os.getpid()) time.sleep(3) print('%s is running' % os.getpid()) if __name__ == '__main__': for i in range(5): p = Process(target=work) p.start()
加锁:
!/urs/bin/evn python # -*- coding:utf-8 -*- import os import time from multiprocessing import Process, Lock def work(lock): lock.acquire() # 加锁 print('%s is running' % os.getpid()) time.sleep(2) print('%s is running' % os.getpid()) lock.release() # 释放锁 if __name__ == '__main__': lock = Lock() for i in range(3): p = Process(target=work, args=(lock,)) p.start()
小列:
import json import time from multiprocessing import Process # 文件db.txt的内容为:{"count":1} # 注意一定要用双引号,不然json无法识别 def search(name): dic=json.load(open('db.txt')) print(dic) time.sleep(1) print('