国产探花免费观看_亚洲丰满少妇自慰呻吟_97日韩有码在线_资源在线日韩欧美_一区二区精品毛片,辰东完美世界有声小说,欢乐颂第一季,yy玄幻小说排行榜完本

首頁 > 編程 > Python > 正文

Python如何快速實現分布式任務

2020-02-16 01:48:19
字體:
來源:轉載
供稿:網友

深入讀了讀python的官方文檔,發覺Python自帶的multiprocessing模塊有很多預制的接口可以方便的實現多個主機之間的通訊,進而實現典型的生產者-消費者模式的分布式任務架構。

之前,為了在Python中實現生產者-消費者模式,往往就會選擇一個額外的隊列系統,比如rabbitMQ之類。此外,你有可能還要設計一套任務對象的序列化方式以便塞入隊列。如果沒有隊列的支持,那不排除有些同學不得不從socket服務器做起,直接跟TCP/IP打起交道來。

其實multiprocessing.managers中有個BaseManager就為開發者提供了這樣一個快速接口。

我們假定的場景是1個生產者(producer.py)+8個消費者(worker.py)的系統,還有一個中央節點負責協調(server.py)實現如下:

server.py

from multiprocessing.managers import BaseManagerimport Queuequeue = Queue.Queue() #初始化一個Q,用于消息傳遞class QueueManager(BaseManager):  passQueueManager.register('get_queue', callable=lambda:queue) # 在系統中發布get_queue這個業務if __name__ == '__main__':  m = QueueManager(address=('10.239.85.193', 50000),authkey='abr' ) # 監聽所有10.239.85.193的50000口  s = m.get_server()  s.serve_forever()

worker.py

from multiprocessing.managers import BaseManagerfrom multiprocessing import Poolclass QueueManager(BaseManager): passQueueManager.register('get_queue') def feb(i): #經典的'山羊增殖'  if i < 2: return 1  if i < 5 : return feb(i-1) + feb(i-2)  return feb(i-1) + feb(i-2) - feb(i-5)def worker(i):   m = QueueManager(address=('10.239.85.193', 50000), authkey='abr')#連接server  m.connect()  while True:    queue = m.get_queue()# 獲取Q   c = queue.get() print feb(c)if __name__ == '__main__':  p = Pool(8) # 分進程啟動8個worker  p.map(worker, range(8))producer.pyfrom multiprocessing.managers import BaseManagerclass QueueManager(BaseManager):  passQueueManager.register('get_queue')if __name__ == '__main__': m = QueueManager(address=('10.239.85.193', 50000), authkey='abr') m.connect() i = 0 while True:   queue = m.get_queue()   queue.put(48)   i+=1

系統會直接將Queue() 對象中的數據直接封裝后通過TCP 50000端口在主機之間傳遞。不過需要注意的是,由于authkey的緣故,各個節點要求python的版本一致。

以上就是本文的全部內容,希望對大家的學習有所幫助,也希望大家多多支持武林站長站。

發表評論 共有條評論
用戶名: 密碼:
驗證碼: 匿名發表
主站蜘蛛池模板: 清流县| 屏山县| 阳泉市| 武陟县| 昂仁县| 新余市| 崇文区| 桂阳县| 邢台县| 上犹县| 桐乡市| 古丈县| 平塘县| 白水县| 阿尔山市| 高要市| 福泉市| 日土县| 铅山县| 阿荣旗| 晋宁县| 双峰县| 桃源县| 宁乡县| 临汾市| 青神县| 庄河市| 滨海县| 当阳市| 镇安县| 鄂托克前旗| 武功县| 庄浪县| 贡觉县| 保山市| 荣昌县| 武义县| 博爱县| 苍山县| 丹棱县| 巫溪县|