在上一篇文章「Node JS 內(nèi)部結(jié)構(gòu)」中，我們討論了Node JS 內(nèi)部架構(gòu)，並討論了為什麼我們應(yīng)該增加節(jié)點線程池大小以同時處理多個請求。我已經(jīng)告訴過你，可擴(kuò)展性和效能與線程池大小無關(guān)。

為了可擴(kuò)展性和高效能，我們可以使用叢集和工作執(zhí)行緒。

聚類

假設(shè)您正在參加一場盛大的婚禮，有數(shù)千位賓客參加婚禮。有一間廚房，一名廚師正在為所有這些客人準(zhǔn)備食物。聽起來不可預(yù)測，對吧？如果您只有一名廚師，您就沒有充分利用廚房的全部資源。

這正是在多核心 CPU 上執(zhí)行的 Node JS 應(yīng)用程式中發(fā)生的情況，當(dāng)僅使用一個核心來處理所有請求時。因此，即使我們的機(jī)器具有多核心的能力，如果沒有集群，我們的應(yīng)用程式也只能在單核心上運行。一個核心負(fù)責(zé)處理所有工作。

當(dāng)你的廚房裡有多個廚師正在工作時，這就是集群。

叢集是一種讓單一 Node JS 應(yīng)用程式能夠有效利用多個 CPU 核心的技術(shù)。

要實作集群，您必須使用 Node JS 中的集群模組。

const cluster = require('cluster');

透過使用此叢集模組，您可以建立 Node JS 應(yīng)用程式的多個實例。這些實例稱為工人。所有工作人員共用相同的伺服器連接埠並同時處理傳入請求。

叢集架構(gòu)中有兩種類型的進(jìn)程。

1.主流程：

Master進(jìn)程就像廚房裡的主廚管理工人。它初始化應(yīng)用程序，設(shè)定叢集環(huán)境，並將任務(wù)委託給工作進(jìn)程。它不直接處理應(yīng)用程式請求。

Master進(jìn)程是做什麼的？

• 使用 cluster.fork() 方法建立多個工作進(jìn)程。如果工作人員意外崩潰或退出，它也會重新啟動工作人員。

• 它確保傳入請求分佈在所有工作流程中。在 Linux 上，這是由作業(yè)系統(tǒng)處理的，在 Windows 上，Node JS 本身充當(dāng)負(fù)載平衡器。

• 它可以透過IPC（進(jìn)程間通訊）在worker之間進(jìn)行通訊。

2.工作進(jìn)程：

工作進(jìn)程是主進(jìn)程所建立的 Node JS 應(yīng)用程式的實例。每個進(jìn)程在單獨的 CPU 核心上獨立運行並處理傳入請求。

工作進(jìn)程無法直接相互通信，它們透過主進(jìn)程進(jìn)行通訊。

工作進(jìn)程處理傳入的請求並執(zhí)行一些任務(wù)，例如資料庫查詢、計算或任何應(yīng)用程式邏輯。

const cluster = require('cluster');

在這裡，我們先檢查這是主進(jìn)程。如果是，那麼它將創(chuàng)建工作進(jìn)程。

在我們的程式碼中，我使用 cluster.fork() 建立一個工作進(jìn)程。

但是，這不是創(chuàng)建工作進(jìn)程的理想方式。

假設(shè)您正在建立 4 個工作進(jìn)程，而您的系統(tǒng)有兩個核心。

為了解決這個問題，而不是創(chuàng)建硬編碼的工作進(jìn)程，先找到 CPU 核心，然後考慮資料創(chuàng)建工作進(jìn)程。

const cluster = require('cluster');
const os = require('os');

if (cluster.isMaster) {
  console.log(`Master ${process.pid} is running`);

  // Fork workers
    cluster.fork();
    cluster.fork();
    cluster.fork();
    cluster.fork();

} else {
  console.log(`Worker ${process.pid} is running`);
  // Worker logic (e.g., server setup) goes here
}

我使用雙核心系統(tǒng)，所以輸出將如下所示。

const cluster = require('cluster');
const os = require('os');

if (cluster.isMaster) {
  console.log(`Master ${process.pid} is running`);
  const numCPUs = os.cpus().length;

  // Fork workers
  for (let i = 0; i < numCPUs; i++) {
    cluster.fork();
  }
} else {
  console.log(`Worker ${process.pid} is running`);
  // Worker logic (e.g., server setup) goes here
}

現(xiàn)在，您有一個問題，如果您有雙核心 CPU，那麼為什麼要建立 4 個工作進(jìn)程？

這是因為邏輯核心數(shù)為 4，我的 CPU 支援超執(zhí)行緒或同步多執(zhí)行緒 (SMT)。

工作執(zhí)行緒

在餐廳裡，服務(wù)生接受訂單並將訂單交給廚師團(tuán)隊，因為烹飪需要一些時間。如果有清潔桌子或任何其他與服務(wù)員相關(guān)的工作，那麼服務(wù)員就會這樣做。當(dāng)訂單準(zhǔn)備好後，廚師將食物回饋給服務(wù)員，服務(wù)員將這些食物提供給顧客。

這與工作執(zhí)行緒相關(guān)的場景相同。如果出現(xiàn)任何計算量大的任務(wù)，例如大規(guī)模資料處理、複雜計算或繁重演算法，則主執(zhí)行緒會將此任務(wù)委託給工作執(zhí)行緒。該任務(wù)由工作執(zhí)行緒執(zhí)行，而不是主執(zhí)行緒。

*為什麼，這有幫助？ *

我們知道 Node JS 事件循環(huán)是單執(zhí)行緒的，如果這種繁重的運算工作由主執(zhí)行緒完成，那麼事件循環(huán)將被阻塞。如果您使用這些工作線程，那麼這些繁重的任務(wù)將交給工作線程，工作線程執(zhí)行這些任務(wù)，而不是主線程，因此事件循環(huán)不會被阻塞。

工作執(zhí)行緒可以透過訊息傳遞系統(tǒng)與主執(zhí)行緒通信，並且可以使用結(jié)構(gòu)化克隆（深複製）在執(zhí)行緒之間發(fā)送資料。

現(xiàn)在，我們正在嘗試模仿工作執(zhí)行緒的工作。

main.js（主執(zhí)行緒）

Master 12345 is running
Worker 12346 is running
Worker 12347 is running
Worker 12348 is running
Worker 12349 is running

worker.js（工作執(zhí)行緒）

const { Worker } = require('worker_threads');

function startWorker() {
  const worker = new Worker('./worker.js'); // Create a worker using worker.js

  // Listen for messages from the worker
  worker.on('message', (message) => {
    console.log('Message from worker:', message);
  });

  // Handle errors in the worker
  worker.on('error', (error) => {
    console.error('Worker error:', error);
  });

  // Handle worker exit
  worker.on('exit', (code) => {
    console.log(`Worker exited with code ${code}`);
  });

  // Send a message to the worker
  worker.postMessage({ num: 100 });
}

startWorker();

如果資料包含大型結(jié)構(gòu)，它將被深度克隆並傳遞，這可能會產(chǎn)生一些效能開銷。

程式碼的工作

• Worker 類別用於產(chǎn)生新執(zhí)行緒。

• 您可以使用worker.postMessage向worker發(fā)送數(shù)據(jù)，並使用worker.on('message',callback)監(jiān)聽訊息。

• 在工作執(zhí)行緒中，parentPort 是與主執(zhí)行緒通訊的主要介面。

• 您可以監(jiān)聽來自主執(zhí)行緒（parentPort.on('message')）的訊息並使用parentPort.postMessage傳回訊息。

輸出將是：

const cluster = require('cluster');

現(xiàn)在，您還有一個問題：為什麼我們不建立數(shù)百個工作執(zhí)行緒？

但是，原因是如果您建立的執(zhí)行緒多於核心數(shù)量，執(zhí)行緒將競爭 CPU 時間，導(dǎo)致上下文切換，這會導(dǎo)致成本高昂並降低整體效能。

什麼時候應(yīng)該在 Node.js 中使用叢集、工作執(zhí)行緒或兩者？

1。何時使用工作執(zhí)行緒？

• CPU 密集任務(wù)：

涉及大量計算的任務(wù)，例如影像/視訊處理、資料壓縮或加密、機(jī)器學(xué)習(xí)推理、科學(xué)計算

• 需要共享記憶體：

您需要在執(zhí)行緒之間有效地共享資料而不重複資料。

• 單核心使用：

如果您的應(yīng)用程式只需要在單一進(jìn)程內(nèi)擴(kuò)展，但仍需要 CPU 密集型任務(wù)的並行性。

2.什麼時候使用聚類？

• I/O 限制：

任務(wù)涉及處理大量客戶端請求，例如 Web、伺服器、聊天應(yīng)用程式和 API。叢集透過在所有 CPU 核心之間分配請求來幫助水平擴(kuò)展。

• 孤立的記憶：

您的應(yīng)用程式不需要在進(jìn)程之間共享大量資料。

• 多核心利用率：

您希望透過產(chǎn)生多個 Node.js 進(jìn)程來利用所有可用的核心。

3.什麼時候同時使用叢集和工作執(zhí)行緒？

• I/O 密集型 CPU 密集型任務(wù)：

應(yīng)用程式處理 HTTP 請求，但卸載計算密集型任務(wù)。範(fàn)例：網(wǎng)頁伺服器處理檔案上傳並執(zhí)行影像大小調(diào)整或影片轉(zhuǎn)碼。

• 高擴(kuò)充性：

您需要進(jìn)程級和執(zhí)行緒級並行性才能實現(xiàn)高吞吐量。在電子商務(wù)網(wǎng)站中，叢集可確保多個進(jìn)程處理傳入要求。工作執(zhí)行緒處理後臺任務(wù)，例如產(chǎn)生個人化推薦。

謝謝。

歡迎提出問題或提出任何建議。

如果您發(fā)現(xiàn)本文內(nèi)容豐富，請按讚。

以上是叢集和工作線程 - Node JS的詳細(xì)內(nèi)容。更多資訊請關(guān)注PHP中文網(wǎng)其他相關(guān)文章！