目錄
- 負(fù)載均衡介紹
- 什么是負(fù)載均衡
- 為什么需要負(fù)載均衡
- 負(fù)載均衡調(diào)度算法
- 負(fù)載均衡后端節(jié)點(diǎn)狀態(tài)
負(fù)載均衡介紹
什么是負(fù)載均衡
負(fù)載均衡（Load Balance），意思是將負(fù)載（工作任務(wù)，訪問請求）進(jìn)行平衡、分?jǐn)偟蕉鄠€(gè)操作單元（服務(wù)器，組件）上進(jìn)行執(zhí)行。
為什么需要負(fù)載均衡
當(dāng)單臺(tái)web服務(wù)器直接面向用戶，可能要承載著大量的并發(fā)請求，單臺(tái)服務(wù)器可能難以負(fù)荷，我們需要使用多臺(tái)web服務(wù)器組成一個(gè)集群，利用Nginx負(fù)載均衡功能，將請求分發(fā)給不同的后端服務(wù)器，實(shí)現(xiàn)負(fù)載的流量分發(fā)，提升整體性能、以及系統(tǒng)的容災(zāi)能力。
- 負(fù)載均衡與代理有什么區(qū)別
代理是代理一臺(tái)服務(wù)器基于URI調(diào)度，調(diào)度到不同功能的應(yīng)用節(jié)點(diǎn)
負(fù)載均衡是將客戶端請求通過proxy_pass代理至一組upstream資源池
- 實(shí)現(xiàn)負(fù)載均衡場景
實(shí)現(xiàn)負(fù)載均衡功能需要使用兩個(gè)模塊：
- proxy_pass：代理模塊
- upstream：虛擬資源池
示例：一個(gè)官方的的負(fù)載均衡展示
upstream backend {
? ? server backend1.example.com ? ? ? weight=5;
? ? server backend2.example.com:8080;
? ? server unix:/tmp/backend3;
? ? server backup1.example.com:8080 ? backup;
? ? server backup2.example.com:8080 ? backup;
}
server {
? ? location / {
? ? ? ? proxy_pass http://backend;
? ? }
}
示例：自己完成一個(gè)小例子
upstream node {
server 192.168.10.3:80;
server 192.168.10.4:80;
}
server {
listen 80;
server_name www.yyang.com;
location / {
proxy_pass http://node;
include prxoy_params;
}
}
負(fù)載均衡調(diào)度算法
輪詢調(diào)度
按順序逐一分配到不同的后端節(jié)點(diǎn)，也是默認(rèn)算法。（簡單來說就是1:1:1）
加權(quán)輪詢
考慮到不同服務(wù)器的性能不同，給予節(jié)點(diǎn)不同的權(quán)值，使其接收到相應(yīng)的權(quán)值請求數(shù)
server 192.168.10.3:80 weight=3; server 192.168.10.4:80 weight=1;
以上這個(gè)例子是說每4個(gè)請求會(huì)分配給10.3三個(gè)，10.4一個(gè)，以此循環(huán)。
ip_hash
根據(jù)用戶請求的IP，對該IP進(jìn)行hash運(yùn)算，根據(jù)運(yùn)算的值將請求分配給后端特定的一臺(tái)節(jié)點(diǎn)進(jìn)行處理。
取值范圍為ipv4地址的前三個(gè)8位或ipv6的整個(gè)地址作為哈希鍵，確保來自從一個(gè)客戶端的IP始終傳遞給同一臺(tái)服務(wù)器，除非次服務(wù)器不可用。（簡單來說就是172.16.20.1與172.16.20.2取前三個(gè)8位都是172.16.20）
ip_hash運(yùn)算公式：hash（ip）%node_counts=index
ip_hash帶來的問題：
大量同一IP的請求會(huì)造成某個(gè)節(jié)點(diǎn)流量過大
如果臨時(shí)下線一臺(tái)節(jié)點(diǎn)，會(huì)重新計(jì)算hash值，建議使用down狀態(tài)
示例：注意ip_hash與權(quán)重不可同時(shí)使用
ip_hash; server 192.168.10.3:80; server 192.168.10.4:80;
一致性hash
為了避免上述問題，所以誕生了一致性hash，使用取模的方式，但不對服務(wù)器節(jié)點(diǎn)數(shù)量取模，而是對2的32次方取模，hash函數(shù)值為0~2^32-1。（形成一個(gè)虛擬圓環(huán)，用戶請求會(huì)發(fā)給順時(shí)針相鄰的節(jié)點(diǎn)）
有一個(gè)問題：如果后端節(jié)點(diǎn)較少可能會(huì)造成數(shù)據(jù)傾斜，所以一致性hash引入了虛擬節(jié)點(diǎn)機(jī)制，即對每個(gè)服務(wù)器計(jì)算多個(gè)哈希，每個(gè)計(jì)算結(jié)果位置都放置一個(gè)虛擬節(jié)點(diǎn)。
如果我們想使用ip_hash，但是計(jì)算公式使用一致性hash，該怎么做？
hash $remote_addr consistent; server 192.168.10.3:80; server 192.168.10.4:80;
url_hash
根據(jù)用戶的url進(jìn)行hash取模，根據(jù)運(yùn)算值，將請求分配給一臺(tái)特定的后端服務(wù)器。clent——nginx——url_hash——cache1——app
1.用戶請求nginx負(fù)載均衡，通過url算法，請求調(diào)度至cache1
2.cache1沒有數(shù)據(jù)，會(huì)向后端獲取，返回?cái)?shù)據(jù)，并將數(shù)據(jù)緩存
3.當(dāng)其他用戶訪問相同url時(shí)，調(diào)度器依然會(huì)調(diào)度到cache1節(jié)點(diǎn)
4.cache1會(huì)直接將數(shù)據(jù)返回
hash $request_uri consistent; server 192.168.10.3:80; server 192.168.10.4:80;
least_conn
哪臺(tái)服務(wù)器的連接數(shù)最少，就將請求調(diào)度到這臺(tái)服務(wù)器
least_conn; server 192.168.10.3:80; server 192.168.10.4:80;
負(fù)載均衡后端節(jié)點(diǎn)狀態(tài)
down
將服務(wù)器節(jié)點(diǎn)標(biāo)記為不可用狀態(tài)，一般用于停機(jī)維護(hù)。
server 192.168.10.3:80 down; server 192.168.10.4:80;
backup
備用節(jié)點(diǎn)，正常情況不會(huì)調(diào)度到此節(jié)點(diǎn)；當(dāng)正常工作節(jié)點(diǎn)全部不可用時(shí)，會(huì)啟用此節(jié)點(diǎn);當(dāng)節(jié)點(diǎn)恢復(fù)時(shí)此節(jié)點(diǎn)會(huì)繼續(xù)恢復(fù)備用狀態(tài)。
server 192.168.10.3:80; server 192.168.10.4:80; server 192.168.10.5:80 backup;
max_conns
用來限制每個(gè)后端節(jié)點(diǎn)接收到的最大的TCP連接數(shù)，如果超出限制就會(huì)拋出錯(cuò)誤。
server 192.168.10.3:80 max_conns=10; server 192.168.10.4:80 max_conns=10;
一臺(tái)可以連接10.兩臺(tái)是20，超過20就會(huì)出錯(cuò)。
keepalived
與后端服務(wù)器激活緩存，也就是長鏈接，提升網(wǎng)站吞吐量。
默認(rèn)不啟用此功能，當(dāng)有請求時(shí)，會(huì)建立連接，維護(hù)連接，關(guān)閉連接，所以會(huì)存在網(wǎng)絡(luò)消耗；但是如果所有連接都緩存了，當(dāng)連接空閑了又會(huì)占用其他系統(tǒng)資源，所以可以使用keepalived參數(shù)。
server 192.168.10.3:80; server 192.168.10.4:80; keepalived 32; ? # 最大空閑連接數(shù)的個(gè)數(shù) keepalived_timeout 100s; # 空閑連接的超時(shí)時(shí)間 # 需要配合以下兩個(gè)參數(shù)使用 proxy_http_version 1.1; proxy_set_header connection "";
max_fails與fail_timeout
max_fails=2：服務(wù)器通信失敗兩次，認(rèn)為服務(wù)器不可用
fail_timeout=5s：服務(wù)器通信失敗后，每5秒探測一次服務(wù)器是否恢復(fù)正常。
在fail_timeout設(shè)定時(shí)間內(nèi)，與服務(wù)器連接失敗次數(shù)達(dá)到max_fails數(shù)量，則認(rèn)為服務(wù)器不可用。
如果不設(shè)置的話默認(rèn)是探測一次，間隔10s。
server 192.168.10.3:80 max_fails=2 fail_timeout=5s; server 192.168.10.4:80 max_fails=2 fail_timeout=5s;
這部分就到這，其他內(nèi)容放在之后。
