Python多进程并发(multiprocessing)用法实例详解
2015-06-02 00:00
2201 查看
本文实例讲述了Python多进程并发(multiprocessing)用法。分享给大家供大家参考。具体分析如下:
由于Python设计的限制(我说的是咱们常用的CPython)。最多只能用满1个CPU核心。
Python提供了非常好用的多进程包multiprocessing,你只需要定义一个函数,Python会替你完成其他所有事情。借助这个包,可以轻松完成从单进程到并发执行的转换。
1、新建单一进程
如果我们新建少量进程,可以如下:
import multiprocessing import time def func(msg): for i in xrange(3): print msg time.sleep(1) if __name__ == "__main__": p = multiprocessing.Process(target=func, args=("hello", )) p.start() p.join() print "Sub-process done."
2、使用进程池
是的,你没有看错,不是线程池。它可以让你跑满多核CPU,而且使用方法非常简单。
注意要用apply_async,如果落下async,就变成阻塞版本了。
processes=4是最多并发进程数量。
import multiprocessing import time def func(msg): for i in xrange(3): print msg time.sleep(1) if __name__ == "__main__": pool = multiprocessing.Pool(processes=4) for i in xrange(10): msg = "hello %d" %(i) pool.apply_async(func, (msg, )) pool.close() pool.join() print "Sub-process(es) done."
3、使用Pool,并需要关注结果
更多的时候,我们不仅需要多进程执行,还需要关注每个进程的执行结果,如下:
import multiprocessing import time def func(msg): for i in xrange(3): print msg time.sleep(1) return "done " + msg if __name__ == "__main__": pool = multiprocessing.Pool(processes=4) result = [] for i in xrange(10): msg = "hello %d" %(i) result.append(pool.apply_async(func, (msg, ))) pool.close() pool.join() for res in result: print res.get() print "Sub-process(es) done."
希望本文所述对大家的Python程序设计有所帮助。
相关文章推荐
- python执行子进程实现进程间通信的方法
- 自己使用总结Python程序代码片段
- Python文档生成工具pydoc使用介绍
- Python中使用ElementTree解析XML示例
- python实现的守护进程(Daemon)用法实例
- Python2.x中文乱码问题解决方法
- python统计cpu利用率的方法
- Python脚本文件打包成可执行文件的方法
- Python lxml模块安装教程
- python通过ssh-powershell监控windows的方法
- Python爬取图片脚本
- Python的自定义排序 以及两种排序方式
- threading和queue监控两个log的python脚本
- python2.7+pip+virtualenv
- python学习系列(六)--- 正则表达式搜索中文
- Python开发神器-pycharm3.4.1注册版下载
- Python 入门教程--基础知识
- python中print后面加逗号
- python2《=》python3 某些库函数互相转换的个人总结 =>持续更新
- Python学习(四) Python数据类型:序列(重要)