1.常見(jiàn)的負(fù)載均衡服務(wù)

負(fù)載均衡服務(wù)是分布式系統(tǒng)中用于分配網(wǎng)絡(luò)流量和請(qǐng)求的關(guān)鍵組件，它可以幫助提高應(yīng)用程序的可用性、可擴(kuò)展性和響應(yīng)速度。以下是一些常用的負(fù)載均衡服務(wù)：

1. Nginx：一個(gè)高性能的Web服務(wù)器和反向代理，廣泛用于實(shí)現(xiàn)HTTP和HTTPS負(fù)載均衡。

2. HAProxy：一個(gè)專注于提供高可用性和負(fù)載均衡的開(kāi)源軟件，特別擅長(zhǎng)處理高并發(fā)的TCP和HTTP請(qǐng)求。

3. LVS (Linux Virtual Server)：一個(gè)基于Linux內(nèi)核的負(fù)載均衡解決方案，工作在網(wǎng)絡(luò)的第四層，提供高性能和高可用性。

4. F5 BIG-IP：一款市場(chǎng)占有率較高的硬件負(fù)載均衡器，提供SSL加速、TCP優(yōu)化、HTTP壓縮、防火墻等特性。

5. A10 Networks：提供一系列硬件負(fù)載均衡器，支持多種負(fù)載均衡算法，具有SSL加速、TCP優(yōu)化、HTTP壓縮等功能。

6. Radware Alteon：一款硬件負(fù)載均衡器，提供SSL加速、TCP優(yōu)化、HTTP壓縮、防火墻等特性。

7. MetalLB：專為裸機(jī)Kubernetes集群設(shè)計(jì)的負(fù)載均衡器，支持BGP和ARP協(xié)議。

8. Traefik：一個(gè)現(xiàn)代化的HTTP反向代理和負(fù)載均衡器，支持動(dòng)態(tài)配置，與Docker、Kubernetes等容器平臺(tái)集成良好。

9. DNS負(fù)載均衡：通過(guò)DNS服務(wù)器將域名解析為多個(gè)IP地址，將請(qǐng)求分發(fā)到不同的服務(wù)器上，實(shí)現(xiàn)負(fù)載均衡。

10. 云服務(wù)商提供的負(fù)載均衡服務(wù)：如AWS Elastic Load Balancing、Azure Load Balancer、Google Cloud Load Balancing等，它們提供了易于使用和管理的負(fù)載均衡解決方案。

2.Nginx

2.1.Nginx負(fù)載均衡概述

Nginx 通過(guò)反向代理的方式實(shí)現(xiàn)負(fù)載均衡。反向代理是指客戶端不直接訪問(wèn)后端服務(wù)器，而是通過(guò)代理服務(wù)器來(lái)轉(zhuǎn)發(fā)請(qǐng)求。Nginx 作為代理服務(wù)器，根據(jù)配置文件中定義的規(guī)則，將客戶端的請(qǐng)求分發(fā)到不同的后端服務(wù)器上，再將處理結(jié)果返回給客戶端。

Nginx 的核心在于其高效的請(qǐng)求處理能力和靈活的配置方式。它采用了多進(jìn)程+異步非阻塞IO事件模型，能夠同時(shí)處理成千上萬(wàn)個(gè)請(qǐng)求。此外，Nginx 還支持多種負(fù)載均衡策略，以滿足不同場(chǎng)景下的需求。

2.2.Nginx 負(fù)載均衡策略

Nginx 支持多種負(fù)載均衡策略，以下是一些常用的策略：

輪詢（Round Robin）

默認(rèn)策略：按照服務(wù)器列表的順序依次分發(fā)請(qǐng)求，如果后端服務(wù)器宕機(jī)，則自動(dòng)剔除該服務(wù)器。適用于后端服務(wù)器性能相近的情況。

特點(diǎn)：簡(jiǎn)單、易用，但負(fù)載分配可能不均衡。

權(quán)重（Weight）

自定義策略：根據(jù)服務(wù)器的權(quán)重值來(lái)分配請(qǐng)求的比例，權(quán)重越高，處理的請(qǐng)求越多。適用于后端服務(wù)器性能不均衡的情況。

配置示例：

upstream backend { server backend1.example.com weight=1; server backend2.example.com weight=2; }

IP 哈希（IP Hash）

會(huì)話保持策略：根據(jù)客戶端的IP地址進(jìn)行哈希計(jì)算，將同一個(gè)客戶端的請(qǐng)求分發(fā)到同一個(gè)后端服務(wù)器上。適用于需要維持會(huì)話的場(chǎng)景，如基于session的Web應(yīng)用。

配置示例：

upstream backend { ip_hash; server 192.168.1.100; server 192.168.1.200; }

最少連接數(shù)（Least Connections）

智能分配策略：將請(qǐng)求分配給當(dāng)前連接數(shù)最少的服務(wù)器。這種策略可以進(jìn)一步提高系統(tǒng)的負(fù)載均衡能力，減少服務(wù)器的過(guò)載情況。但Nginx本身不直接支持此策略，通常需要借助第三方模塊或自定義腳本實(shí)現(xiàn)。

第三方策略

Fair：根據(jù)后端服務(wù)器的響應(yīng)時(shí)間來(lái)分配請(qǐng)求，響應(yīng)時(shí)間短的優(yōu)先分配。Nginx本身不支持此策略，需要安裝第三方模塊（如nginx-module-vts）。

URL 哈希（URL Hash）：按訪問(wèn)URL的hash結(jié)果進(jìn)行分配請(qǐng)求，使每個(gè)URL定向到同一個(gè)后端服務(wù)器。這種策略適用于緩存服務(wù)器集群，可以提高緩存的命中率。Nginx本身不支持此策略，需要安裝相應(yīng)的hash軟件包。

3.HAProxy

3.1.ha-proxy概述

ha-proxy是一款高性能的負(fù)載均衡軟件。因?yàn)槠鋵Ｗ⒂谪?fù)載均衡這一件事情，因此與nginx比起來(lái)在負(fù)載均衡這件事情上做更好，更專業(yè)。

軟件：haproxy---主要是做負(fù)載均衡的7層，也可以做4層負(fù)載均衡

apache也可以做7層負(fù)載均衡，但是很麻煩。實(shí)際工作中沒(méi)有人用。

負(fù)載均衡是通過(guò)OSI協(xié)議對(duì)應(yīng)的

7層負(fù)載均衡：用的7層http協(xié)議，

4層負(fù)載均衡：用的是tcp協(xié)議加端口號(hào)做的負(fù)載均衡

3.2.ha-proxy的特點(diǎn)

ha-proxy 作為目前流行的負(fù)載均衡軟件，必須有其出色的一面。下面介紹一下ha-proxy相對(duì)LVS，Nginx等負(fù)載均衡軟件的優(yōu)點(diǎn)。

• 支持tcp/http兩種協(xié)議層的負(fù)載均衡，使得其負(fù)載均衡功能非常豐富。

• 支持8種左右的負(fù)載均衡算法，尤其是在http模式時(shí)，有許多非常實(shí)在的負(fù)載均衡算法，適用各種需求。

• 性能非常優(yōu)秀，基于單進(jìn)程處理模式（和Nginx類似）讓其性能卓越。

• 擁有一個(gè)功能出色的監(jiān)控頁(yè)面，實(shí)時(shí)了解系統(tǒng)的當(dāng)前狀況。

• 功能強(qiáng)大的ACL支持，給用戶極大的方便。

3.3.haproxy算法：

1.roundrobin

輪詢,在服務(wù)器的處理時(shí)間保持均勻分布時(shí),這是最平衡,最公平的算法.此算法是動(dòng)態(tài)的,這表示其權(quán)重可以在運(yùn)行時(shí)進(jìn)行調(diào)整.

2.static-rr

基于權(quán)重進(jìn)行輪詢,與roundrobin類似,但是為靜態(tài)方法,在運(yùn)行時(shí)調(diào)整其服務(wù)器權(quán)重不會(huì)生效.不過(guò),其在后端服務(wù)器連接數(shù)上沒(méi)有限制

3.leastconn

新的連接請(qǐng)求被派發(fā)至具有最少連接數(shù)目的后端服務(wù)器。

4.LVS

4.1.LVS負(fù)載均衡四種工作模式

• LVS/NAT：網(wǎng)絡(luò)地址轉(zhuǎn)換模式，進(jìn)站/出站的數(shù)據(jù)流量經(jīng)過(guò)分發(fā)器/負(fù)載均衡器(IP負(fù)載均衡，他修改的是IP地址) --利用三層功能

• LVS/DR：直接路由模式，只有進(jìn)站的數(shù)據(jù)流量經(jīng)過(guò)分發(fā)器/負(fù)載均衡器(數(shù)據(jù)鏈路層負(fù)載均衡，因?yàn)樗薷牡氖悄康膍ac地址)--利用二層功能mac地址

• LVS/TUN： 隧道模式，只有進(jìn)站的數(shù)據(jù)流量經(jīng)過(guò)分發(fā)器/負(fù)載均衡器

• LVS/full-nat:雙向轉(zhuǎn)換，通過(guò)請(qǐng)求報(bào)文的源地址為DIP，目標(biāo)為RIP來(lái)實(shí)現(xiàn)轉(zhuǎn)發(fā)：對(duì)于響應(yīng)報(bào)文而言，修改源地址為VIP，目標(biāo)地址為CIP來(lái)實(shí)現(xiàn)轉(zhuǎn)發(fā)

4.2.LVS四種工作模式原理,以及優(yōu)缺點(diǎn)比較

4.2.1、NAT模式（LVS-NAT）

原理：就是把客戶端發(fā)來(lái)的數(shù)據(jù)包的IP頭的目的地址，在負(fù)載均衡器上換成其中一臺(tái)RS的IP地址，轉(zhuǎn)發(fā)至此RS來(lái)處理,RS處理完成后把數(shù)據(jù)交給經(jīng)過(guò)負(fù)載均衡器,負(fù)載均衡器再把數(shù)據(jù)包的源IP地址改為自己的VIP，將目的地址改為客戶端IP地址即可｡期間,無(wú)論是進(jìn)來(lái)的流量,還是出去的流量,都必須經(jīng)過(guò)負(fù)載均衡器｡

優(yōu)點(diǎn)：集群中的物理服務(wù)器可以使用任何支持TCP/IP操作系統(tǒng)，只有負(fù)載均衡器需要一個(gè)合法的IP地址。

缺點(diǎn)：擴(kuò)展性有限。當(dāng)服務(wù)器節(jié)點(diǎn)（普通PC服務(wù)器）增長(zhǎng)過(guò)多時(shí),負(fù)載均衡器將成為整個(gè)系統(tǒng)的瓶頸，因?yàn)樗械恼?qǐng)求包和應(yīng)答包的流向都經(jīng)過(guò)負(fù)載均衡器。當(dāng)服務(wù)器節(jié)點(diǎn)過(guò)多時(shí)，大量的數(shù)據(jù)包都交匯在負(fù)載均衡器那，速度就會(huì)變慢！

4.2.2、直接路由(Direct Routing)模式（LVS-DR）

原理：負(fù)載均衡器和RS都使用同一個(gè)IP對(duì)外服務(wù)｡但只有DB對(duì)ARP請(qǐng)求進(jìn)行響應(yīng),所有RS對(duì)本身這個(gè)IP的ARP請(qǐng)求保持靜默｡也就是說(shuō),網(wǎng)關(guān)會(huì)把對(duì)這個(gè)服務(wù)IP的請(qǐng)求全部定向給DB,而DB收到數(shù)據(jù)包后根據(jù)調(diào)度算法,找出對(duì)應(yīng)的RS,把目的MAC地址改為RS的MAC（因?yàn)镮P一致）并將請(qǐng)求分發(fā)給這臺(tái)RS｡這時(shí)RS收到這個(gè)數(shù)據(jù)包,處理完成之后，由于IP一致，可以直接將數(shù)據(jù)返給客戶，則等于直接從客戶端收到這個(gè)數(shù)據(jù)包無(wú)異,處理后直接返回給客戶端｡

優(yōu)點(diǎn)：和TUN（隧道模式）一樣，負(fù)載均衡器也只是分發(fā)請(qǐng)求，應(yīng)答包通過(guò)單獨(dú)的路由方法返回給客戶端。與LVS-TUN相比，LVS-DR這種實(shí)現(xiàn)方式不需要隧道結(jié)構(gòu)，因此可以使用大多數(shù)操作系統(tǒng)做為物理服務(wù)器。

缺點(diǎn)：（不能說(shuō)缺點(diǎn)，只能說(shuō)是不足）要求負(fù)載均衡器的網(wǎng)卡必須與物理網(wǎng)卡在一個(gè)物理段上。

4.2.3、IP隧道(Tunnel)模式（LVS-TUN）

原理：互聯(lián)網(wǎng)上的大多Internet服務(wù)的請(qǐng)求包很短小，而應(yīng)答包通常很大。那么隧道模式就是，把客戶端發(fā)來(lái)的數(shù)據(jù)包，封裝一個(gè)新的IP頭標(biāo)記(僅目的IP)發(fā)給RS,RS收到后,先把數(shù)據(jù)包的頭解開(kāi),還原數(shù)據(jù)包,處理后,直接返回給客戶端,不需要再經(jīng)過(guò)負(fù)載均衡器｡注意,由于RS需要對(duì)負(fù)載均衡器發(fā)過(guò)來(lái)的數(shù)據(jù)包進(jìn)行還原,所以說(shuō)必須支持IPTUNNEL協(xié)議｡所以,在RS的內(nèi)核中,必須編譯支持IPTUNNEL這個(gè)選項(xiàng)

優(yōu)點(diǎn)：負(fù)載均衡器只負(fù)責(zé)將請(qǐng)求包分發(fā)給后端節(jié)點(diǎn)服務(wù)器，而RS將應(yīng)答包直接發(fā)給用戶。所以，減少了負(fù)載均衡器的大量數(shù)據(jù)流動(dòng)，負(fù)載均衡器不再是系統(tǒng)的瓶頸，就能處理海量的請(qǐng)求量，這種方式，一臺(tái)負(fù)載均衡器能夠?yàn)楹芏郣S進(jìn)行分發(fā)。而且跑在公網(wǎng)上就能進(jìn)行不同地域的分發(fā)。

缺點(diǎn)：隧道模式的RS節(jié)點(diǎn)需要合法IP，這種方式需要所有的服務(wù)器支持”IP Tunneling”(IP Encapsulation)協(xié)議，服務(wù)器可能只局限在部分Linux系統(tǒng)上。

4.2.4、FULL-NAT模式（雙向轉(zhuǎn)換模式）

原理:客戶端對(duì)VIP發(fā)起請(qǐng)求，Director接過(guò)請(qǐng)求發(fā)現(xiàn)是請(qǐng)求后端服務(wù)。Direcrot對(duì)請(qǐng)求報(bào)文做full-nat，把源ip改為Dip，把目標(biāo)ip轉(zhuǎn)換為任意后端RS的rip，然后發(fā)往后端，rs接到請(qǐng)求后，進(jìn)行響應(yīng)，相應(yīng)源ip為Rip目標(biāo)ip還是DIP，又內(nèi)部路由路由到Director,Director接到響應(yīng)報(bào)文，進(jìn)行full-nat。將源地址為VIP，目標(biāo)地址改為CIP

請(qǐng)求使用DNAT，響應(yīng)使用SNAT

lvs-fullnat（雙向轉(zhuǎn)換）

通過(guò)請(qǐng)求報(bào)文的源地址為DIP，目標(biāo)為RIP來(lái)實(shí)現(xiàn)轉(zhuǎn)發(fā)：對(duì)于響應(yīng)報(bào)文而言，修改源地址為VIP，目標(biāo)地址為CIP來(lái)實(shí)現(xiàn)轉(zhuǎn)發(fā)：

5.haproxy負(fù)載均衡搭建流程

在Ubuntu上部署HAProxy，你可以按照以下步驟進(jìn)行操作：

5.1.安裝HAProxy

打開(kāi)終端，運(yùn)行以下命令來(lái)安裝HAProxy：

sudo apt update sudo apt install haproxy

5.2.配置HAProxy

HAProxy的主要配置文件是 /etc/haproxy/haproxy.cfg。你可以使用文本編輯器打開(kāi)并編輯此文件：

vim /etc/haproxy/haproxy.cfg

在配置文件中，你需要定義后端服務(wù)器和監(jiān)聽(tīng)器。以下是一個(gè)簡(jiǎn)單的示例配置，將HAProxy配置為負(fù)載均衡HTTP請(qǐng)求到兩個(gè)后端Web服務(wù)器：

global log /dev/log local0 # 設(shè)置日志記錄，使用本地 syslog 的 local0 設(shè)施 log /dev/log local1 notice # 設(shè)置另一個(gè)日志記錄級(jí)別為 notice，使用 local1 設(shè)施 maxconn 4096 # 定義最大并發(fā)連接數(shù)為 4096 user haproxy # 設(shè)置 HAProxy 運(yùn)行的用戶為 haproxy group haproxy # 設(shè)置 HAProxy 運(yùn)行的組為 haproxy defaults log global # 應(yīng)用全局日志設(shè)置 mode http # 設(shè)置工作模式為 HTTP option httplog # 啟用 HTTP 日志格式 option dontlognull # 不記錄空的請(qǐng)求 timeout connect 5000 # 連接超時(shí)設(shè)置為 5 秒 timeout client 50000 # 客戶端超時(shí)設(shè)置為 50 秒 timeout server 50000 # 服務(wù)器超時(shí)設(shè)置為 50 秒 frontend http-in bind *:80 # 監(jiān)聽(tīng)所有接口的 80 端口進(jìn)行 HTTP 請(qǐng)求 default_backend servers # 將請(qǐng)求轉(zhuǎn)發(fā)到名為 'servers' 的后端 backend servers balance roundrobin # 采用輪詢方式對(duì)后端服務(wù)器進(jìn)行負(fù)載均衡 server web1 192.168.5.101:80 check # 定義第一個(gè)后端服務(wù)器，啟用健康檢查 server web2 192.168.5.102:80 check # 定義第二個(gè)后端服務(wù)器，啟用健康檢查

在這個(gè)示例中，我們定義了兩個(gè)后端服務(wù)器（web1和 web2），它們的IP地址和端口是示例值，你需要替換為實(shí)際的后端服務(wù)器信息。

檢查配置

在編輯完成配置文件后，運(yùn)行以下命令檢查配置文件是否有語(yǔ)法錯(cuò)誤：

sudo haproxy -c -f /etc/haproxy/haproxy.cfg

如果沒(méi)有出現(xiàn)錯(cuò)誤消息，說(shuō)明配置文件有效。

重啟HAProxy：

重新啟動(dòng)HAProxy以使配置生效：

sudo systemctl restart haproxy

啟用自動(dòng)啟動(dòng)（可選）：

如果你希望HAProxy在系統(tǒng)啟動(dòng)時(shí)自動(dòng)啟動(dòng)，可以運(yùn)行以下命令：

sudo systemctl enable haproxy

5.3.測(cè)試

這里我們用兩臺(tái)虛擬機(jī)分別部署nginx web頁(yè)面

分別是192.168.5.101和192.168.5.102

我們?cè)L問(wèn)haproxy的web頁(yè)面 端口默認(rèn)80

點(diǎn)擊刷新 我們?cè)O(shè)置的策略是輪循

可以看見(jiàn)頁(yè)面在111和222中切換

haproxy配置文件詳解更新在配置文件模版