当前位置：首页 > 编程日记 > 正文

python 进程池 freeze_support_Python 多进程并发操作中进程池Pool的实例

编程日记 2024-06-18 19:50:00

在利用Python进行系统管理的时候，特别是同时操作多个文件目录，或者远程控制多台主机，并行操作可以节约大量的时间。当被操作对象数目不大时，可以直接利用multiprocessing中的Process动态成生多个进程，10几个还好，但如果是上百个，上千个目标，手动的去限制进程数量却又太过繁琐，这时候进程池Pool发挥作用的时候就到了。

Pool可以提供指定数量的进程，供用户调用，当有新的请求提交到pool中时，如果池还没有满，那么就会创建一个新的进程用来执行该请求；但如果池中的进程数已经达到规定最大值，那么该请求就会等待，直到池中有进程结束，才会创建新的进程来它。这里有一个简单的例子：

#!/usr/bin/env python

#coding=utf-8

"""

Author: Squall

Last modified: 2011-10-18 16:50

Filename: pool.py

Description: a simple sample for pool class

"""

from multiprocessing import Pool

from time import sleep

def f(x):

for i in range(10):

print '%s --- %s ' % (i, x)

sleep(1)

def main():

pool = Pool(processes=3) # set the processes max number 3

for i in range(11,20):

result = pool.apply_async(f, (i,))

pool.close()

pool.join()

if result.successful():

print 'successful'

if __name__ == "__main__":

main()

先创建容量为3的进程池，然后将f(i)依次传递给它，运行脚本后利用ps aux | grep pool.py查看进程情况，会发现最多只会有三个进程执行。pool.apply_async()用来向进程池提交目标请求，pool.join()是用来等待进程池中的worker进程执行完毕，防止主进程在worker进程结束前结束。但必pool.join()必须使用在pool.close()或者pool.terminate()之后。其中close()跟terminate()的区别在于close()会等待池中的worker进程执行结束再关闭pool,而terminate()则是直接关闭。result.successful()表示整个调用执行的状态，如果还有worker没有执行完，则会抛出AssertionError异常。

利用multiprocessing下的Pool可以很方便的同时自动处理几百或者上千个并行操作，脚本的复杂性也大大降低。

——————————————————————————————————

Python多进程并发(multiprocessing)

由于Python设计的限制(我说的是咱们常用的CPython)。最多只能用满1个CPU核心。

Python提供了非常好用的多进程包multiprocessing，你只需要定义一个函数，Python会替你完成其他所有事情。借助这个包，可以轻松完成从单进程到并发执行的转换。

1、新建单一进程

如果我们新建少量进程，可以如下：

import multiprocessing

import time

def func(msg):

for i in xrange(3):

print msg

time.sleep(1)

if __name__ == "__main__":

p = multiprocessing.Process(target=func, args=("hello", ))

p.start()

p.join()

print "Sub-process done."

2、使用进程池

是的，你没有看错，不是线程池。它可以让你跑满多核CPU，而且使用方法非常简单。

注意要用apply_async，如果落下async，就变成阻塞版本了。

processes=4是最多并发进程数量。

import

multiprocessing

import

time

def

func(msg):

for

xrange(3):

msg

time.sleep(1)

__name__

"__main__":

pool

multiprocessing.Pool(processes=4)

for

xrange(10):

msg

"hello

%d"

%(i)

pool.apply_async(func,

(msg,

))

pool.close()

pool.join()

"Sub-process(es)

done."

3、使用Pool，并需要关注结果

更多的时候，我们不仅需要多进程执行，还需要关注每个进程的执行结果，如下：

import multiprocessing

import time

def func(msg):

for i in xrange(3):

print msg

time.sleep(1)

return "done " + msg

if __name__ == "__main__":

pool = multiprocessing.Pool(processes=4)

result = []

for i in xrange(10):

msg = "hello %d" %(i)

result.append(pool.apply_async(func, (msg, )))

pool.close()

pool.join()

for res in result:

print res.get()

print "Sub-process(es) done."

2014.12.25更新

根据网友评论中的反馈，在Windows下运行有可能崩溃(开启了一大堆新窗口、进程)，可以通过如下调用来解决：

multiprocessing.freeze_support()

简易worker multiprocessing.Pool

多任务模型设计是一个比较复杂的逻辑，但是python对于多任务的处理却有种种方便的类库，不需要过多的纠结进程/线程间的操作细节。比如multiprocessing.Pool就是其中之一。

官方给的范例也很简单。

from multiprocessing import Pool

def f(x):

return x*x

if __name__ == '__main__':

pool = Pool(processes=4) # start 4 worker processes

result = pool.apply_async(f, [10]) # evaluate "f(10)" asynchronously

print result.get(timeout=1) # prints "100" unless your computer is *very* slow

print pool.map(f, range(10)) # prints "[0, 1, 4,..., 81]"

并未做太多的详细解释。正好我手头有一段代码，需要请求几百个url，解析html页面获取一些信息，单线程for循环效率极低，因此看到了这个模块，想用这个实现多任务分析，参考代码如下：

from multiprocessing import Pool

def analyse_url(url):

#do something with this url

return analysis_result

if __name__ == '__main__':

pool = Pool(processes=10)

result = pool.map(analyse_url, url_list)

确实比以前单线程for循环url_list列表，一个个请求analyse_url要快得多，但是带来的问题就是一旦pool.map没执行完就ctrl-c中断程序，程序就会异常，永远无法退出，参考stackoverflow的这个帖子，修改为以下代码:

#result = pool.map(analyse_url, url_list)

result = pool.map_async(analyse_url, url_list).get(120)

至此问题完美解决。

以上这篇Python 多进程并发操作中进程池Pool的实例就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。

https://www.dkcj.cn/info/11294.html

区块链技术如何改变我们对DNA的看法

链客，专为开发者而生，有问必答！ 此文章来自区块链技术社区，未经允许拒绝转载。试想一下，有人得到了你的一些最私人的信息，并用它来攻击你，窃取你的身份，实施诈骗。这对于你来说特别…

编程日记2024/06/18 19:40:00

input样式和修改

$(.input_class).on(focus,function(event){ if(event.keyCode 13){goSearch()}});input::-webkit-input-placeholder {color:#999; } .input_class{color:#333;border:none;vertical-align: .08rem;background: #F5F5F5;font-size:.65rem; } 转载于:https://www.cnblogs.com/…

编程日记2024/06/18 19:30:00

python 进程池 freeze_support_Python 多进程并发操作中进程池Pool的实例

相关文章：

区块链技术如何改变我们对DNA的看法

input样式和修改

python uwsgi_python Web开发你要理解的WSGI uwsgi详解

接口设计文档_app端接口用例设计方法和测试方法（一）

一个在raw里面放着数据库文件的网上例子

as3绕过策略文件给视频截图

数据库和区块链的异同

java并发编程实战：第十六章----Java内存模型

子div超出父div_菜鸟学 react props 子到父

Linux笔记：使用Vim编辑器

实现中心钱包系统

南大算法设计与分析课程OJ答案代码（5）--割点与桥和任务调度问题

小程序生命周期_来，简单说说小程序的生命周期?

模板引擎：VelocityFreeMarker（转）

去中心化的尺度

在tomcat中用jndi配置数据源启动java web程序

centOS7.4服务器 yum安装搭建lamp环境

好想学python怎么猜人_学手艺我好想学个手艺哦可是脑子怎么想也想 – 手机爱问...

用Python从零开始创建区块链

动态添加跨行表格_学会这2招，轻松搞定数据透视表动态更新，效率猛增一倍...

alpha阶段个人总结（201521123031林庭亦）

python统计列表内元素个数

比特币的货币属性是什么？

病虫害模型算法_基于深度学习的目标检测算法综述

windows 常用命令

良好的用户体验应该...

区块链知识点简解

laravel和dingoapi的结合使用

uc的剪切板能关掉吗_关掉网络游戏，小孩就有美好的未来吗？

2017-2018-2 20165236 实验四《Android开发基础》实验报告