对Python3之进程池与回调函数的实例详解

 更新时间:2019年01月22日 14:13:10   作者:Quincy379   我要评论
今天小编就为大家分享一篇对Python3之进程池与回调函数的实例详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧

进程池

代码演示

方式一

from multiprocessing import Pool

def deal_task(n):
 n -= 1
 return n

if __name__ == '__main__':
 n = 10
 p = Pool(4)
 for i in range(4):
  res = p.apply(deal_task, args=(n,))
  #调用apply是一个串行的效果,任务会被进程一个一个的处理,直接得到结果
  #前提是执行的任务必须要有返回值
  print(res)

方式二

from multiprocessing import Pool

def deal_task(n):
 n -= 1
 return n

if __name__ == '__main__':
 n = 10
 p = Pool(4)
 obj_l = []
 for i in range(4):
  #调用apply_async会返回一个对象,主进程会不断扔任务给线程池,让子线程处理
  obj = p.apply_async(deal_task, args=(n,))
  obj_l.append(obj)
 #首先函数要有返回值
 #调用close目的是防止join期间会有别的任务被添加到任务列表中
 #不调用close会报错
 p.close()
 p.join()
 #join是要让子进程全部处理完之后得到结果统一处理,还有一个非常重要的原因是进程池依附于主进程,主进程结束,进程池消失。进程池的任务没有被处理程序就结束了。
 for obj in obj_l:
  print(obj.get())

方式三

from multiprocessing import Pool
import requests

def get_page(url):
 ret = requests.get(url).text
 return {'url': url, 'ret': ret}

def parse_page(ret):
 with open('ab.txt', 'a') as f:
  f.write('%s - %s\n' % (ret['url'], len(ret['ret'])))

if __name__ == '__main__':
 urls = [
  'https://www.baidu.com',
  'http://www.openstack.org',
  'https://www.python.org',
  'https://help.github.com/',
  'http://www.sina.com.cn/'
 ]
 p = Pool()
 for url in urls:
  #使用回调函数,当get_page下载完后,主线程调用parse_page自动处理get_page下载的结果,节省了parse_page的时间,该场景用于一个函数为耗时操作并且产生数据,另一个函数是非耗时操作,这样就节省了非耗时操作函数的时间
  p.apply_async(get_page, args=(url,), callback=parse_page)
 p.close()
 p.join()
 print('主')

join是要让子进程全部处理完之后得到结果统一处理,还有一个非常重要的原因是进程池依附于主进程,主进程结束,进程池消失。进程池的任务没有被处理程序就结束了。

以上这篇对Python3之进程池与回调函数的实例详解就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持澳门金沙网上娱乐。

相关文章

  • Python程序暂停的正常处理方法

    Python程序暂停的正常处理方法

    这篇文章主要介绍了Python程序暂停的实现代码,非常不错,具有一定的参考借鉴价值,需要的朋友可以参考下
    2019-11-11
  • 详解Python字典的操作

    详解Python字典的操作

    在本文里小编给大家整理了关于Python字典的相关知识点以及操作方式,有兴趣的朋友们学习下。
    2019-03-03
  • python插入排序算法实例分析

    python插入排序算法实例分析

    这篇文章主要介绍了python插入排序算法,通过两个简单实例对比分析了Python插入排序算法的相关实现技巧,需要的朋友可以参考下
    2015-07-07
  • 对Python 两大环境管理神器 pyenv 和 virtualenv详解

    对Python 两大环境管理神器 pyenv 和 virtualenv详解

    今天小编就为大家分享一篇对Python 两大环境管理神器 pyenv 和 virtualenv详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-12-12
  • 详解python中list的使用

    详解python中list的使用

    这篇文章主要介绍了python中list的使用,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们下面随着小编来一起学习学习吧
    2019-03-03
  • python实现计算倒数的方法

    python实现计算倒数的方法

    这篇文章主要介绍了python实现计算倒数的方法,涉及Python针对数学运算操作的相关技巧,需要的朋友可以参考下
    2015-07-07
  • 对Python 除法负数取商的取整方式详解

    对Python 除法负数取商的取整方式详解

    今天小编就为大家分享一篇对Python 除法负数取商的取整方式详解,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
    2018-12-12
  • 使用python删除nginx缓存文件示例(python文件操作)

    使用python删除nginx缓存文件示例(python文件操作)

    这篇文章主要介绍了使用python删除nginx缓存文件示例(python文件操作),需要的朋友可以参考下
    2014-03-03
  • Python中利用xpath解析HTML的方法

    Python中利用xpath解析HTML的方法

    本篇文章主要介绍了Python中利用xpath解析HTML的方法,利用其lxml.html的xpath对html进行分析,获取抓取信息,具有一定的参考价值,感兴趣的小伙伴们可以参考一下
    2018-05-05
  • Python根据服务获取端口号的方法

    Python根据服务获取端口号的方法

    这篇文章主要介绍了Python根据服务获取端口号,文中给大家提到了linux查看端口开启端口的方法,需要的朋友可以参考下
    2019-09-09

最新评论