进程池的同步与异步用法Pool

进程池的同步,如下程序:

from multiprocessing import Pool
import time
import os


def func(n):
    print('start 进程 %s'%n, os.getpid())
    time.sleep(1)
    print('end 进程 %s'%n, os.getpid())


if __name__ == "__main__":
    pool = Pool()  # 如果进程池不加数字,默认值为往前CPU的数量一样
    for i in range(10):
        pool.apply(func, args=(i,))  

查看结果:

start 进程 0 21896
end 进程 0 21896
start 进程 1 27040
end 进程 1 27040
start 进程 2 23408
end 进程 2 23408
start 进程 3 29704
end 进程 3 29704
start 进程 4 31384
end 进程 4 31384
start 进程 5 2140
end 进程 5 2140
start 进程 6 25780
end 进程 6 25780
start 进程 7 29488
end 进程 7 29488
start 进程 8 21896
end 进程 8 21896
start 进程 9 27040
end 进程 9 27040

可以发现,变成了进程变成了同步得了,运行特别慢。

apply方法的作用就是将进程池的进程变成同步的。

将进程池变成异步的,使用apply_async就可以了,如下:

from multiprocessing import Pool
import time
import os


def func(n):
    print('start 进程 %s'%n, os.getpid())
    time.sleep(1)
    print('end 进程 %s'%n, os.getpid())


if __name__ == "__main__":
    pool = Pool()
    for i in range(10):
        pool.apply_async(func, args=(i,))

但是发现结果什么都没有,因为主进程没有等子进程的结束就执行完了。

如下优化,使用join就行了:

from multiprocessing import Pool
import time
import os


def func(n):
    print('start 进程 %s'%n, os.getpid())
    time.sleep(1)
    print('end 进程 %s'%n, os.getpid())


if __name__ == "__main__":
    pool = Pool()
    for i in range(10):
        pool.apply_async(func, args=(i,))
    pool.close()  # close()保证的是没有新的任务进入进程池
    pool.join()  # 这里的join检测的是子进程里面的任务结束,而不是子进程的结束,因为进程池里面的进程不会结束,永远活着,被用完之后会被还到进程池里面。

看结果:

start 进程 0 22364
start 进程 1 25820
start 进程 2 27688
start 进程 3 26840
start 进程 4 31100
start 进程 5 27032
start 进程 6 21452
start 进程 7 25592
end 进程 0 22364
start 进程 8 22364
end 进程 1 25820
start 进程 9 25820
end 进程 2 27688
end 进程 3 26840
end 进程 4 31100
end 进程 5 27032
end 进程 6 21452
end 进程 7 25592
end 进程 8 22364
end 进程 9 25820

值得注意的是,不加pool.close(),直接加pool.join()是会报错的,因为进程池里面的进程用完之后不会结束,而是被还到进程池了,因此这里的join检测的是没有任务再进入进程池了,而不是检测子进程的结束。所以要保证没有任务进入进程池,进程池就不会接收到任务,所以pool.close()的作用就是结束进程池接收任务,就是我的任务执行完毕,且没有新的任务进来,这是就被join检测到了。

 另一种问题如下:

from multiprocessing import Pool
import time


def func(n):
    time.sleep(0.5)
    return n*n


if __name__ == "__main__":
    pool = Pool(5)
    for i in range(10):
        ret = pool.apply(func, args=(i,))
        print(ret)

打印结果:

0
1
4
9
16
25
36
49
64
81  # 每隔0.5秒打印一个结果

看下一段代码,使用apply_async:

from multiprocessing import Pool
import time


def func(n):
    time.sleep(0.5)
    return n*n


if __name__ == "__main__":
    pool = Pool(5)
    for i in range(10):
        ret = pool.apply_async(func, args=(i,))
        print(ret)

看打印结果:

<multiprocessing.pool.ApplyResult object at 0x0000023993E70AC8>
<multiprocessing.pool.ApplyResult object at 0x0000023993E70B70>
<multiprocessing.pool.ApplyResult object at 0x0000023993E70CF8>
<multiprocessing.pool.ApplyResult object at 0x0000023993E70DA0>
<multiprocessing.pool.ApplyResult object at 0x0000023993E70E80>
<multiprocessing.pool.ApplyResult object at 0x0000023993E70F28>
<multiprocessing.pool.ApplyResult object at 0x0000023993E70FD0>
<multiprocessing.pool.ApplyResult object at 0x0000023993E810B8>
<multiprocessing.pool.ApplyResult object at 0x0000023993E81160>
<multiprocessing.pool.ApplyResult object at 0x0000023993E81208>

是一个个对象,并且是同时打印出来的。

优化如下,使用get()方法获取值:

from multiprocessing import Pool
import time


def func(n):
    time.sleep(0.5)
    return n*n


if __name__ == "__main__":
    pool = Pool(5)
    for i in range(10):
        ret = pool.apply_async(func, args=(i,))
        print(ret.get())

看打印结果:

0
1
4
9
16
25
36
49
64
81

值出来的,但是你会发现一个现象,值是每隔0.5秒一个一个出来的,不是异步吗???

这里要注意for循环将任务传入如进程池时,

    for i in range(10):
        ret = pool.apply_async(func, args=(i,))  # for循环传入任务
        print(ret.get())

执行到print(ret.get()),这里的get需要获取值,但是这是没有值,get就会让程序出现阻塞直到等到值,所以for循环的每一步都要等到值才会继续下一个for循环,就出现了不是异步的情况。

改进方法:

from multiprocessing import Pool
import time


def func(n):
    time.sleep(0.5)
    return n*n


if __name__ == "__main__":
    pool = Pool(5)
    l_list = []
    for i in range(10):
        ret = pool.apply_async(func, args=(i,))
        l_list.append(ret)
    for m in l_list:
        print(m.get())

这时候你会发现五个五个的出现。

结束!

原文地址:https://www.cnblogs.com/aaronthon/p/9840488.html