cluster模塊概覽

node實例是單線程作業的。在服務端編程中，通常會創建多個node實例來處理客戶端的請求，以此提升系統的吞吐率。對這樣多個node實例，我們稱之為cluster（集群）。

借助node的cluster模塊，開發者可以在幾乎不修改原有項目代碼的前提下，獲得集群服務帶來的好處。

集群有以下兩種常見的實現方案，而node自帶的cluster模塊，采用了方案二。

方案一：多個node實例+多個端口

集群內的node實例，各自監聽不同的端口，再由反向代理實現請求到多個端口的分發。

1. 優點：實現簡單，各實例相對獨立，這對服務穩定性有好處。
2. 缺點：增加端口占用，進程之間通信比較麻煩。

方案二：主進程向子進程轉發請求

集群內，創建一個主進程(master)，以及若干個子進程(worker)。由master監聽客戶端連接請求，并根據特定的策略，轉發給worker。

1. 優點：通常只占用一個端口，通信相對簡單，轉發策略更靈活。
2. 缺點：實現相對復雜，對主進程的穩定性要求較高。

入門實例

在cluster模塊中，主進程稱為master，子進程稱為worker。

例子如下，創建與CPU數目相同的服務端實例，來處理客戶端請求。注意，它們監聽的都是同樣的端口。

// server.jsvar cluster = require('cluster');var cpuNums = require('os').cpus().length;var http = require('http');if(cluster.isMaster){ for(var i = 0; i < cpuNums; i++){  cluster.fork(); }}else{ http.createServer(function(req, res){  res.end(`response from worker ${process.pid}`); }).listen(3000); console.log(`Worker ${process.pid} started`);}

創建批處理腳本：./req.sh。

#!/bin/bash# req.shfor((i=1;i<=4;i++)); do   curl http://127.0.0.1:3000 echo ""done 

輸出如下。可以看到，響應來自不同的進程。

response from worker 23735
response from worker 23731
response from worker 23729
response from worker 23730

cluster模塊實現原理

了解cluster模塊，主要搞清楚3個問題：

1. master、worker如何通信？
2. 多個server實例，如何實現端口共享？
3. 多個server實例，來自客戶端的請求如何分發到多個worker？

下面會結合示意圖進行介紹，源碼級別的介紹，可以參考 筆者的github。

問題1：master、worker如何通信

這個問題比較簡單。master進程通過 cluster.fork() 來創建 worker進程。cluster.fork() 內部 是通過 child_process.fork() 來創建子進程。

也就是說：

1. master進程、worker進程是父、子進程的關系。
2. master進程、woker進程可以通過IPC通道進行通信。（重要）

問題2：如何實現端口共享

在前面的例子中，多個woker中創建的server監聽了同個端口3000。通常來說，多個進程監聽同個端口，系統會報錯。

為什么我們的例子沒問題呢？

秘密在于，net模塊中，對 listen() 方法進行了特殊處理。根據當前進程是master進程，還是worker進程：

1. master進程：在該端口上正常監聽請求。（沒做特殊處理）
2. worker進程：創建server實例。然后通過IPC通道，向master進程發送消息，讓master進程也創建 server 實例，并在該端口上監聽請求。當請求進來時，master進程將請求轉發給worker進程的server實例。

歸納起來，就是：master進程監聽特定端口，并將客戶請求轉發給worker進程。

如下圖所示：

問題3：如何將請求分發到多個worker

每當worker進程創建server實例來監聽請求，都會通過IPC通道，在master上進行注冊。當客戶端請求到達，master會負責將請求轉發給對應的worker。

具體轉發給哪個worker？這是由轉發策略決定的。可以通過環境變量NODE_CLUSTER_SCHED_POLICY設置，也可以在cluster.setupMaster(options)時傳入。

默認的轉發策略是輪詢（SCHED_RR）。

當有客戶請求到達，master會輪詢一遍worker列表，找到第一個空閑的worker，然后將該請求轉發給該worker。

master、worker內部通信小技巧

在開發過程中，我們會通過 process.on('message', fn) 來實現進程間通信。

前面提到，master進程、worker進程在server實例的創建過程中，也是通過IPC通道進行通信的。那會不會對我們的開發造成干擾呢？比如，收到一堆其實并不需要關心的消息？

答案肯定是不會？那么是怎么做到的呢？

當發送的消息包含cmd字段，且改字段以NODE_作為前綴，則該消息會被視為內部保留的消息，不會通過message事件拋出，但可以通過監聽'internalMessage'捕獲。

以worker進程通知master進程創建server實例為例子。worker偽代碼如下：

// woker進程const message = { cmd: 'NODE_CLUSTER', act: 'queryServer'};process.send(message);

master偽代碼如下：

worker.process.on('internalMessage', fn);

相關鏈接

官方文檔：https://nodejs.org/api/cluster.html

Node學習筆記：https://github.com/chyingp/nodejs-learning-guide

以上就是本文的全部內容，希望對大家的學習有所幫助，也希望大家多多支持武林網。