進程池
代碼演示
方式一
from multiprocessing import Pooldef deal_task(n): n -= 1 return nif __name__ == '__main__': n = 10 p = Pool(4) for i in range(4): res = p.apply(deal_task, args=(n,)) #調用apply是一個串行的效果,任務會被進程一個一個的處理,直接得到結果 #前提是執行的任務必須要有返回值 print(res)
方式二
from multiprocessing import Pooldef deal_task(n): n -= 1 return nif __name__ == '__main__': n = 10 p = Pool(4) obj_l = [] for i in range(4): #調用apply_async會返回一個對象,主進程會不斷扔任務給線程池,讓子線程處理 obj = p.apply_async(deal_task, args=(n,)) obj_l.append(obj) #首先函數要有返回值 #調用close目的是防止join期間會有別的任務被添加到任務列表中 #不調用close會報錯 p.close() p.join() #join是要讓子進程全部處理完之后得到結果統一處理,還有一個非常重要的原因是進程池依附于主進程,主進程結束,進程池消失。進程池的任務沒有被處理程序就結束了。 for obj in obj_l: print(obj.get())
方式三
from multiprocessing import Poolimport requestsdef get_page(url): ret = requests.get(url).text return {'url': url, 'ret': ret}def parse_page(ret): with open('ab.txt', 'a') as f: f.write('%s - %s/n' % (ret['url'], len(ret['ret'])))if __name__ == '__main__': urls = [ 'https://www.baidu.com', 'http://www.openstack.org', 'https://www.python.org', 'https://help.github.com/', 'http://www.sina.com.cn/' ] p = Pool() for url in urls: #使用回調函數,當get_page下載完后,主線程調用parse_page自動處理get_page下載的結果,節省了parse_page的時間,該場景用于一個函數為耗時操作并且產生數據,另一個函數是非耗時操作,這樣就節省了非耗時操作函數的時間 p.apply_async(get_page, args=(url,), callback=parse_page) p.close() p.join() print('主')join是要讓子進程全部處理完之后得到結果統一處理,還有一個非常重要的原因是進程池依附于主進程,主進程結束,進程池消失。進程池的任務沒有被處理程序就結束了。
以上這篇對Python3之進程池與回調函數的實例詳解就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支持武林站長站。
新聞熱點
疑難解答