Python多核调用系统命令的方法及相应异常处理

背景介绍

最近用python写了段代码,串行的形式如下,可是实在太慢。

想提高速度,调用多核执行这个系统命令,相当于每个核都提交os.system(‘……’)这样的任务。使用的模块是multiprocessing,之前知道里面的Pool非常好用,能自动跑满核,但尝试了一会发现使用map并不能实现并行,也不晓得原因是什么。使用某歌搜过发现已有大神在Stack Overflow进行了解读,链接在此。这里摘抄翻译记录一下,欢迎讨论。不多说直接上代码。代码实现方式至少有两种,请看:

代码实现方式1:

代码写的很简洁。

补充

最新版的python3已经支持Pool的上下文管理器

代码实现方式2:

使用concurrent.futures,可以使代码更简洁。

并行时,异常的抛出

并行是,worker里如果出现了异常,通常会被隐藏掉,因为该异常不会被主进程察觉,这样是不好的,相当于除了问题而自己不知道。一种实现能够捕捉异常的方法是,直接检查每个函数执行的结果,代码如下。

在主进程future.result()会检查每个结果,并抛出异常

打赏作者
如果你觉得这篇文章对你有帮助,半年内收入涨幅大于20%,可以考虑请博主喝一杯咖啡^_^

您的支持将鼓励我们继续创作!

[微信] 扫描二维码打赏

[支付宝] 扫描二维码打赏

发表评论

电子邮件地址不会被公开。 必填项已用*标注

此站点使用Akismet来减少垃圾评论。了解我们如何处理您的评论数据