Python多进程操作-进程池(Pool)
2018-01-19 16:53
1101 查看
在使用Python进行系统管理时,特别是同时操作多个文件目录或者远程控制多
台主机,并行操作可以节约大量的时间。如果操作的对象数目不大时,还可以直
接使用Process类动态的生成多个进程,十几个还好,但是如果上百个甚至更多,
那手动去限制进程数量就显得特别的繁琐,此时进程池就派上用场了。
Pool类可以提供指定数量的进程供用户调用,当有新的请求提交到Pool中时,
如果池还没有满,就会创建一个新的进程来执行请求。如果池满,请求就会告知
先等待,直到池中有进程结束,才会创建新的进程来执行这些请求。
Pool类中的方法有:
apply_async():异步
apply():同步
get()
map()
close()不再接受新的进程
join()等待进程池中的进程执行完
进程池的进程之间,是相互独立的。
Process 创建的进程之间是可以做协同的
1.pool.apply() 就是同一时间只有一个在计算
2.pool.apply_async() 同一个时间几个进程同时进行
3.进程池最常用的场景是:几个进程之间互不干扰,之间没有协同关系,各干各的
4.不加锁的话,如果当前文件已经在操作了,其它进程操作会失败的
5.所以并发都是需要加锁的,这样同一个文件操作就没什么问题,操作是指写入不是读
6.用map时不能使用锁,使用map时一般不会出现乱序
实例代码:
进程池数一般设置成cpu数-1
执行结果
台主机,并行操作可以节约大量的时间。如果操作的对象数目不大时,还可以直
接使用Process类动态的生成多个进程,十几个还好,但是如果上百个甚至更多,
那手动去限制进程数量就显得特别的繁琐,此时进程池就派上用场了。
Pool类可以提供指定数量的进程供用户调用,当有新的请求提交到Pool中时,
如果池还没有满,就会创建一个新的进程来执行请求。如果池满,请求就会告知
先等待,直到池中有进程结束,才会创建新的进程来执行这些请求。
Pool类中的方法有:
apply_async():异步
apply():同步
get()
map()
close()不再接受新的进程
join()等待进程池中的进程执行完
进程池的进程之间,是相互独立的。
Process 创建的进程之间是可以做协同的
1.pool.apply() 就是同一时间只有一个在计算
2.pool.apply_async() 同一个时间几个进程同时进行
3.进程池最常用的场景是:几个进程之间互不干扰,之间没有协同关系,各干各的
4.不加锁的话,如果当前文件已经在操作了,其它进程操作会失败的
5.所以并发都是需要加锁的,这样同一个文件操作就没什么问题,操作是指写入不是读
6.用map时不能使用锁,使用map时一般不会出现乱序
实例代码:
进程池数一般设置成cpu数-1
from multiprocessing import Pool import multiprocessing def func1(x): return x*x if __name__ == '__main__': # pool=Pool(4) pool=Pool(multiprocessing.cpu_count()-1) result=pool.apply_async(func1,args=(10,)) print result.get() print pool.map(func1,range(10)) pool.close() pool.join()
执行结果
100 [0, 1, 4, 9, 16, 25, 36, 49, 64, 81]
相关文章推荐
- Python多进程并发操作中进程池Pool的应用<转>
- Python多进程并发操作中进程池Pool的应用
- Python多进程并发操作进程池Pool
- Python 多进程并发操作中进程池Pool
- Python多进程并发操作中进程池Pool的应用
- python多进程中的进程池pool
- Python多进程——进程池Pool
- Python 多进程并发操作中进程池Pool的实例
- Python多进程并发操作中进程池Pool的应用
- Python多进程并发操作中进程池Pool的应用
- PYTHON多进程编码结束之进程池POOL
- Python多进程并发操作中进程池Pool的应用
- python多进程操作-进程池
- python并发编程之多进程2-------------数据共享及进程池和回调函数
- python进程池:multiprocessing.pool
- python 进程池1 - Pool使用简介
- python 进程池Pool
- python进程池:multiprocessing.pool
- Python多进程multiprocessing.Pool()
- python进程池:multiprocessing.pool