Nginx作為負載均衡器，通過將請求分發(fā)到多個后端服務(wù)器，以提高性能、可靠性和擴展性。支持多種負載均衡算法，如輪詢、最小連接數(shù)、IP哈希等，可以根據(jù)需求選擇適合的算法。

一、工作原理

nginx的高性能主要是因為

1、事件驅(qū)動架構(gòu)

Nginx采用事件驅(qū)動的非阻塞方式處理請求，主要利用了操作系統(tǒng)提供的多路復(fù)用機制，通過異步非阻塞的方式處理大量并發(fā)請求，減少了線程切換和資源消耗，提高了并發(fā)處理能力和系統(tǒng)的穩(wěn)定性。

2、事件循環(huán)

事件循環(huán)機制是核心的工作模式之一。它通過單線程的方式處理事件，包括等待事件、處理事件和繼續(xù)循環(huán)。在等待事件時，Nginx并不會像傳統(tǒng)多線程模型那樣阻塞等待，而是通過事件通知機制在有事件發(fā)生時再進行處理，這樣可以充分利用CPU資源，提升系統(tǒng)的效率和性能。

3、多進程

Nginx可以通過配置文件中的worker_processes選項來啟動多個進程來處理請求。每個進程都有自己獨立的事件循環(huán)和資源管理，進程之間沒有共享狀態(tài)，這種設(shè)計可以避免單點故障，提高系統(tǒng)的可靠性和穩(wěn)定性。并且Nginx的多進程模型使得它能夠更好地利用多核CPU，通過并行處理請求來提高整體的處理能力。

二、反向代理

server {
  listen 80; 
  server_name example.com; 
  root /root/build/;#靜態(tài)資源地址
  index index.html;  

  location /api/server/ {
    proxy_pass http://localhost:8080;
    proxy_set_header Host$host;
    proxy_set_header X-Real-IP$remote_addr;
    proxy_set_header X-Forwarded-For
  }
}

例如在這個例子中，設(shè)置了index目錄和靜態(tài)資源目錄。并且設(shè)置了域名訪問。很大了保證了服務(wù)器的安全性。在下面的反向代理配置中，通過正則表達式將/api/server/開頭的映射到http://localhost:8080這個地址。

whiteboard_exported_image.png

三、負載均衡

負載均衡也就是通過反向代理到不同的服務(wù)，保證服務(wù)的可用性。多用于在分布式系統(tǒng)中。例如某個系統(tǒng)分布在100個服務(wù)器上，當某幾臺服務(wù)器崩潰時，會代理到其他服務(wù)器，不會影響系統(tǒng)的運行。更好的實現(xiàn)橫向擴展。

例如一個簡單的get請求代碼

importtornado.ioloop
importtornado.web

classMainHandler(tornado.web.RequestHandler):
 defget(self):
   self.write("Hello, Tornado!")

defmake_app():
 returntornado.web.Application([
    (r"/", MainHandler),
  ])

if__name__ =="__main__":
  app = make_app()
  app.listen(8888)
 print("Server running on http://localhost:8888")
  tornado.ioloop.IOLoop.current().start()

具體的負載均衡算法

1、輪詢

nginx的均衡默認算法：直接基于事件循環(huán)。類似于排隊，一個一個來，例如第一個請求分發(fā)給第一個服務(wù)，第二個就分發(fā)給第二個服務(wù)，以此類推。缺點：沒有具體情況具體分析，某些情況下的請求會導(dǎo)致負載很高。

upstream tornado_servers {
  server 192.168.31.158:8888;
  server localhost:8888;
}

server {
  listen 80;
  server_name 192.168.62.132;

  location / {
    proxy_pass http://tornado_servers;
    proxy_set_header Host$host;
    proxy_set_header X-Real-IP$remote_addr;
  }
  location /nginx_status {
  stub_status on;
  access_log off;
  allow 192.168.62.0/24; # 允許訪問的IP地址，根據(jù)需要調(diào)整
  deny all;    # 禁止其他IP地址訪問
  }  
}

將上述訪問運行在兩個不同的服務(wù)器上，默認的輪詢會每個服務(wù)器都請求一次，除非有一臺掉線，否則nginx會均分請求。

下面行的localhost塊b表示新的匹配規(guī)則，用于查看nginx當前的連接數(shù)和請求統(tǒng)計信息。

server accepts handled requests

Active connections: 1

表示當前活躍的連接數(shù)，即正在與Nginx服務(wù)器建立通信的客戶端連接數(shù)量。

server accepts handled requests

accepts: 表示Nginx已經(jīng)接受的連接總數(shù)。

handled: 表示Nginx已經(jīng)處理的連接總數(shù)。

requests: 表示Nginx已經(jīng)處理的請求總數(shù)。

Reading: 0 Writing: 1 Waiting: 0

Reading: 正在讀取客戶端請求的數(shù)量。

Writing: 正在向客戶端發(fā)送響應(yīng)的數(shù)量。

Waiting: 當前空閑的客戶端連接數(shù)，等待處理請求

2、最少連接

會將請求分配給連接最少的服務(wù)，保證系統(tǒng)的整體性能。缺點是沒有具體情況具體分析，沒有考慮負載情況，不是請求越多負載越大。

upstream tornado_servers {
  least_conn; # 使用最少連接數(shù)算法
  server192.168.31.158:8888;
  server localhost:8888;
}

server {
 listen80;
  server_name192.168.62.132; 

  location / {
    proxy_pass http://tornado_servers;
    proxy_set_header Host$host;
    proxy_set_header X-Real-IP$remote_addr;
  }
}

least_conn字段表示使用最少連接算法。

3、IP哈希

通過客戶端的IP地址的哈希值分配給特定的服務(wù)器，如果下一次請求的IP哈希值與之前一樣，那么依然會請求到之前的服務(wù)器。如果不一樣那么為新的服務(wù)器創(chuàng)建新的哈希值。這樣避免了服務(wù)器的切換開銷，保持了會話的一致性。但是這樣的缺點是同一個客戶端的請求無法做到負載均衡。

upstream tornado_servers {
  ip_hash; # 使用IP哈希算法
  server 192.168.31.158:8888;
  server localhost:8888;
}

server {
  listen 80;
  server_name 192.168.62.132; 

  location / {
    proxy_pass http://tornado_servers;
    proxy_set_header Host$host;
    proxy_set_header X-Real-IP$remote_addr;
  }
  location /nginx_status {
  stub_status on;
  access_log off;
  allow 192.168.62.0/24; # 允許訪問的IP地址，根據(jù)需要調(diào)整
  deny all;    # 禁止其他IP地址訪問
  }
}

4、加權(quán)輪詢

在輪詢的基礎(chǔ)上為每個服務(wù)器加上一個權(quán)重值，每個服務(wù)器的承受連接數(shù)量。在輪詢的情況下再次考慮權(quán)重值。例如兩臺服務(wù)器，服務(wù)器A、B的權(quán)重分別為5，3輪詢流程為：

第一次請求：服務(wù)器A處理請求

第二次請求：服務(wù)器B處理請求

第三次請求：服務(wù)器A處理請求

第四次請求：服務(wù)器A處理請求

第五次請求：服務(wù)器A處理請求

第六次請求：服務(wù)器B處理請求

upstream tornado_servers {
  server 192.168.31.158:8888 weight=5;
  server localhost:8888 weight=3;
}

server {
  listen 80;
  server_name 192.168.62.132;

  location / {
    proxy_pass http://tornado_servers;
    proxy_set_header Host$host;
    proxy_set_header X-Real-IP$remote_addr;
  }
  location /nginx_status {
  stub_status on;
  access_log off;
  allow 192.168.62.0/24; # 允許訪問的IP地址，根據(jù)需要調(diào)整
  deny all;    # 禁止其他IP地址訪問
  }
}

5、加權(quán)最小連接

在最小連接的算法基礎(chǔ)上，加上權(quán)重值。這時候需要根據(jù)連接數(shù)量和權(quán)重值來評估目標服務(wù)器。

例如服務(wù)器A、B、C。權(quán)重值分別為5、3、2。連接數(shù)分別為10、5、3.

計算加權(quán)連接數(shù)：

服務(wù)器A：10/5=2

服務(wù)器B：5/3=1.67

服務(wù)器C：3/2=1.5

那么根據(jù)加權(quán)連接數(shù)，最小加權(quán)連接數(shù)為1.5。那么會代理到服務(wù)器C

upstream tornado_servers {
  least_conn; # 使用最少連接數(shù)算法
  server 192.168.31.158:8888 weight=5;
  server localhost:8888 weight=3;
}

server {
  listen 80;
  server_name 192.168.62.132;

  location / {
    proxy_pass http://tornado_servers;
    proxy_set_header Host$host;
    proxy_set_header X-Real-IP$remote_addr;
  }
  location /nginx_status {
  stub_status on;
  access_log off;
  allow 192.168.62.0/24; # 允許訪問的IP地址，根據(jù)需要調(diào)整
  deny all;    # 禁止其他IP地址訪問
  }
}

四、總結(jié)

反向代理就像是位于用戶和真實服務(wù)器之間的一座橋梁，它接收用戶的請求并將其轉(zhuǎn)發(fā)到后端的多臺服務(wù)器上。這種配置不僅隱藏了真實服務(wù)器的信息，還能提供安全性和負載均衡功能。負載均衡通過智能地分發(fā)請求到不同的服務(wù)器，確保每臺服務(wù)器的負載相對平衡，從而提高整體性能和可靠性。這種結(jié)合能夠有效地處理高并發(fā)請求，保證系統(tǒng)在壓力下仍能保持穩(wěn)定運行。

鏈接：https://www.cnblogs.com/changwan/p/18246095