python并行计算（完结篇）：并行方法总结
由于python相当易学易用，现在python也较多地用于有大量的计算需求的任务。本文介绍几个并行模块，以及实现程序并行的入门技术。本文比较枯燥，主要是为后面上工程实例做铺垫。完结篇对前期介绍的所有模块及实例进行总结，比较各并行方法的特点和异同。
所有比较都以文字形式呈现了，欢迎指正或完善，做成表格可能效果更好。
模块介绍：
爱coding：python并行计算（上）：multiprocessing、multiprocess模块zhuanlan.zhihu.com
爱coding：python并行计算（上）：pathos模块zhuanlan.zhihu.com爱coding：python并行计算（上）：concurrent.futures、pp模块zhuanlan.zhihu.com
实例：
爱coding：python并行计算（下）：multiprocessing模块实例zhuanlan.zhihu.com爱coding：python并行计算（下）：pathos模块实例zhuanlan.zhihu.com爱coding：python并行计算（下）：concurrent.futures、pp模块实例zhuanlan.zhihu.com
注：以下模块、类与其他内容相同或接近，不重复介绍和比较：
- multiprocess模块：与multiprocessing模块接口基本一致。
- pathos.pp.pp模块：实质也即pp模块，与独立的pp模块完全相同。
- pathos.multiprocessing.Pool()：与multiprocess.Pool()完全相同。
- pathos.multiprocessing.ProcessingPool()、pathos.pools.ProcessPool()：与pathos.multiprocessing.ProcessPool()完全相同。
- pathos.pp.ParallelPythonPool()、pathos.parallel.ParallelPool()、pathos.parallel.ParallelPythonPool()、pathos.pools.ParallelPool()：与pathos.pp.ParallelPool()完全相同。
- pathos.serial.SerialPool()：实际是串行（非并行），不参与比较。
1、按并行分类
（1）阻塞（非并行）：
非并行方式下，子进程串行执行（完成一个，然后开始下一个），实际不是并行。包括：
- multiprocessing.Pool()，apply方法
- pathos.multiprocessing.ProcessPool()，pipe方法
- pathos.pp.ParallelPool()，pipe方法
- pathos.pp.ParallelPool()，map方法
- pathos.pp.ParallelPool()，imap方法
（2）批次并行：
批次并行指一批子进程并行执行，且直到该批次所有子进程完成后，才开始下一批次。包括：
- multiprocessing.Process() #只能一批一批地添加进程，同一批次内并行
（3）异步：
异步执行指的是一批子进程并行执行，且子进程完成一个，就新开始一个，而不必等待同一批其他进程完成。包括：
- multiprocessing.Pool()，apply_async方法
- multiprocessing.Pool()，map方法
- multiprocessing.Pool()，map_async方法
- multiprocessing.Pool()，imap方法
- multiprocessing.Pool()，imap_unordered方法
- multiprocessing.Pool()，starmap方法
- multiprocessing.Pool()，starmap_async方法
- concurrent.futures.ProcessPoolExecutor()，submit方法
- concurrent.futures.ProcessPoolExecutor()，map方法
- pathos.multiprocessing.ProcessPool()，map方法
- pathos.multiprocessing.ProcessPool()，imap方法
- pathos.multiprocessing.ProcessPool()，uimap方法
- pathos.multiprocessing.ProcessPool()，amap方法
- pathos.multiprocessing.ProcessPool()，apipe方法
- pp.Server()，submit方法
- pathos.pp.ParallelPool()，apipe方法
- pathos.pp.ParallelPool()，amap方法
- pathos.pp.ParallelPool()，uimap方法
2、按传参分类
（1）单个任务，任务多参数：
- multiprocessing.Process()
- concurrent.futures.ProcessPoolExecutor()，submit方法
- multiprocessing.Pool()，apply方法
- multiprocessing.Pool()，apply_async方法
- pathos.multiprocessing.ProcessPool()，pipe方法
- pathos.multiprocessing.ProcessPool()，apipe方法
- pp.Server()，submit方法
- pathos.pp.ParallelPool()，pipe方法
- pathos.pp.ParallelPool()，apipe方法
（2）多个任务，任务单参数：
- multiprocessing.Pool()，map方法
- multiprocessing.Pool()，map_async方法
- multiprocessing.Pool()，imap方法
- multiprocessing.Pool()，imap_unordered方法
（3）多个任务，任务多参数：
（a）func(iterable[i])形式：iterable的每个元素（元素本身也是iterable）对应func的多个参数。
- multiprocessing.Pool()，starmap方法
- multiprocessing.Pool()，starmap_async方法
（b）func(iterable1[i], iterable2[i], ...)形式：每个iterable对应func的一个参数。
- concurrent.futures.ProcessPoolExecutor()，map方法
- pathos.multiprocessing.ProcessPool()，map方法
- pathos.multiprocessing.ProcessPool()，imap方法
- pathos.multiprocessing.ProcessPool()，uimap方法
- pathos.multiprocessing.ProcessPool()，amap方法
- pathos.pp.ParallelPool()，map方法
- pathos.pp.ParallelPool()，amap方法
- pathos.pp.ParallelPool()，imap方法
- pathos.pp.ParallelPool()，uimap方法
3、按返回分类
（1）返回任务返回值
- multiprocessing.Pool()，apply方法
- pathos.multiprocessing.ProcessPool()，pipe方法
- pathos.pp.ParallelPool()，pipe方法
（2）返回list
- multiprocessing.Pool()，map方法
- multiprocessing.Pool()，starmap方法
- pathos.multiprocessing.ProcessPool()，map方法
- pathos.pp.ParallelPool()，map方法
（3）返回ApplyResult
返回MapResult或ApplyResult实例，通过get方法获取返回值。需要注意的是：
- 由于每个ApplyResult实例对应单个子进程，其get方法本身是阻塞的，因此，在进程添加过程中不可包含get方法，而应在所有进程完成后，再一起调用get方法。
- 对于MapResult不存在该问题，因为所有子进程只会一起返回一个MapResult实例。
包括：
- multiprocessing.Pool()，apply_async方法
- pathos.multiprocessing.ProcessPool()，apipe方法
- pathos.pp.ParallelPool()，apipe方法
（4）返回MapResult
- multiprocessing.Pool()，map_async方法
- multiprocessing.Pool()，starmap_async方法
- pathos.multiprocessing.ProcessPool()，amap方法
- pathos.pp.ParallelPool()，amap方法
（5）返回迭代器或生成器
迭代器/生成器对内存的需求会小得多，但速度比普通方法要慢很多（未验证）。不过，对于本文的小型任务，看不出差别。
（a）按顺序：即按任务添加顺利返回。
- multiprocessing.Pool()，imap方法
- concurrent.futures.ProcessPoolExecutor()，map方法
- pathos.multiprocessing.ProcessPool()，imap方法
- pathos.pp.ParallelPool()，imap方法
（b）不按顺序：实际按任务完成顺序返回。
- multiprocessing.Pool()，imap_unordered方法
- pathos.multiprocessing.ProcessPool()，uimap方法
- pathos.pp.ParallelPool()，uimap方法
（6）无直接返回值
- multiprocessing.Process() #无直接返回值，可通过进程间通信的方式返回任务返回值。
- concurrent.futures.ProcessPoolExecutor()，submit方法 #future对象可以通过result方法获取子进程任务返回值。但该方法是阻塞的，因此，应在所有子进程完成后再调用。
- pp.Server()，submit方法 #Task对象可调用（即Task()），调用可返回任务返回值。但调用是阻塞的，因此，应在所有子进程完成后再调用。
编辑于 2018-12-03