Apache Thrift - 負載均衡

在分散式系統中，負載均衡和服務發現確保高可用性、容錯性和高效的資源利用率。

它們有助於均勻分配流量，並允許系統適應環境變化，例如新增新例項或現有例項宕機。

負載均衡

負載均衡涉及將客戶端請求分配到多個伺服器例項，以防止任何單個伺服器過載。

這確保了更好的資源利用率，提高了響應時間，並提供了高可用性。

負載均衡型別

以下是主要的負載均衡型別：

客戶端負載均衡

在客戶端負載均衡中，客戶端負責決定將每個請求傳送到哪個伺服器。客戶端維護可用伺服器列表，並根據預定義的策略或演算法選擇一個伺服器。

描述：客戶端應用程式直接與多個伺服器例項互動，並決定每個請求的路由位置。這種方法有助於均勻分配負載並動態適應伺服器可用性的變化。
示例：Java 中的 Ribbon 等庫提供了客戶端負載均衡功能。Ribbon 允許客戶端透過根據可配置規則和演算法在多個伺服器例項中進行選擇來對請求進行負載均衡。

伺服器端負載均衡

伺服器端負載均衡涉及使用中間負載均衡器，該負載均衡器接收傳入請求並將它們轉發到一個可用的伺服器例項。負載均衡器負責根據其配置的規則分配流量。

描述：負載均衡器位於客戶端和伺服器池之間，管理和分配傳入請求。這種方法集中了負載均衡邏輯並簡化了客戶端配置。
示例：流行的伺服器端負載均衡器包括 HAProxy 和 NGINX。這些工具可以根據各種演算法（如輪詢、最少連線或 IP 雜湊）分配流量，並提供諸如健康檢查和會話永續性之類的功能。

基於 DNS 的負載均衡

基於 DNS 的負載均衡使用 DNS 將傳入請求分配到多個伺服器例項。透過將單個域名解析為多個 IP 地址，DNS 可以將客戶端定向到不同的伺服器，從而在它們之間平衡負載。

描述：DNS 條目配置為為單個域名返回多個 IP 地址。DNS 伺服器透過輪詢 IP 地址列表或使用其他策略來處理請求的分配。
示例：Amazon Route 53 等服務提供基於 DNS 的負載均衡。Route 53 可以提供諸如加權路由、基於延遲的路由和地理路由之類的功能，以有效地管理流量分配。

實現客戶端負載均衡

客戶端負載均衡由客戶端應用程式管理，該應用程式維護伺服器列表並決定將每個請求路由到哪個伺服器。

庫或框架通常透過應用負載均衡演算法來高效地分配請求來處理此過程。

使用 Ribbon 的 Java 示例

以下示例演示如何在 Java 應用程式中配置和使用 Ribbon 進行客戶端負載均衡。

它展示瞭如何包含 Ribbon 作為依賴項、設定伺服器列表、建立負載均衡器以及使用 Ribbon 的負載均衡功能傳送請求：

包含 Ribbon 依賴項：在您的“pom.xml”檔案中新增 Ribbon 作為依賴項，以便在您的專案中使用它：

<dependency>
  <groupId>com.netflix.ribbon</groupId>
  <artifactId>ribbon</artifactId>
  <version>2.3.0</version>
</dependency>

配置 Ribbon：設定 Ribbon 要使用的可用伺服器列表。此配置指定 Ribbon 將考慮用於負載均衡的伺服器：

ConfigurationManager.getConfigInstance().setProperty(
   "myClient.ribbon.listOfServers", "localhost:8081,localhost:8082");

建立負載均衡器：使用 Ribbon 的配置初始化負載均衡器。負載均衡器將使用伺服器列表來分配傳入請求：

ILoadBalancer loadBalancer = LoadBalancerBuilder.newBuilder()
   .withClientConfig(DefaultClientConfigImpl.create("myClient"))
   .buildDynamicServerListLoadBalancer();

傳送請求：使用負載均衡器選擇伺服器併發送請求。負載均衡器將根據其演算法選擇一個伺服器：

Server server = loadBalancer.chooseServer(null);
URI uri = new URI("http://" + server.getHost() + ":" + server.getPort() + "/path");
HttpResponse response = HttpClientBuilder.create().build().execute(new HttpGet(uri));

實現伺服器端負載均衡

伺服器端負載均衡使用專用的負載均衡器將傳入請求分配到多個伺服器例項。這種方法集中了負載均衡，並且可以處理各種分發策略。

使用 HAProxy 的示例

以下示例演示如何設定 HAProxy 進行伺服器端負載均衡，包括安裝 HAProxy、將其配置為在多個伺服器之間分配請求以及啟動服務以有效地管理負載分配：

安裝 HAProxy：在您的伺服器上安裝 HAProxy。此工具將充當用於分配請求的負載均衡器：

sudo apt-get install haproxy

配置 HAProxy：設定 HAProxy 配置檔案 (haproxy.cfg) 以定義如何將請求分配到伺服器：

frontend myfrontend
   bind *:80
   default_backend mybackend

backend mybackend
   balance roundrobin
   server server1 localhost:8081 check
   server server2 localhost:8082 check

這裡：

frontend myfrontend：配置 HAProxy 監聽埠 80 並將請求轉發到後端。
backend mybackend：定義將請求路由到的伺服器，使用輪詢負載均衡策略。

啟動 HAProxy：啟動 HAProxy 服務以根據您的配置開始負載均衡請求。

sudo service haproxy start

服務發現

服務發現是系統自動檢測和維護可用服務例項列表的方法。

此動態過程允許客戶端在無需硬編碼地址的情況下找到並連線到服務，從而更容易地在分散式環境中管理和擴充套件服務。

服務發現型別

以下是主要的型別：

客戶端服務發現

在這種方法中，客戶端查詢服務登錄檔以獲取可用服務例項列表，然後選擇一個例項進行連線。此方法使客戶端可以控制它如何連線到服務。

示例：使用 Java 中的 Eureka 等庫來管理服務例項資訊。

伺服器端服務發現

在此，客戶端將請求傳送到負載均衡器，然後負載均衡器查詢服務登錄檔並將請求轉發到適當的服務例項。此方法集中了發現過程並簡化了客戶端配置。

示例：結合使用 Consul 和 NGINX 來管理服務例項路由。

實現客戶端服務發現

客戶端服務發現涉及使用服務登錄檔來動態查詢和連線到可用的服務例項。

使用 Eureka 的 Java 示例

以下示例演示如何在 Java 中整合 Eureka 用於客戶端服務發現，使應用程式能夠動態查詢和連線到可用的服務例項：

包含 Eureka 客戶端依賴項：將 Eureka 客戶端依賴項新增到您的“pom.xml”中，以便在您的 Java 應用程式中啟用服務發現功能：

<dependency>
  <groupId>com.netflix.eureka</groupId>
  <artifactId>eureka-client</artifactId>
  <version>1.10.11</version>
</dependency>

配置 Eureka 客戶端：設定 Eureka 客戶端配置以指定 Eureka 伺服器的 URL：

eureka.client.serviceUrl.defaultZone=https://:8761/eureka/

發現服務：使用 Eureka 客戶端查詢服務登錄檔，檢索可用例項並連線到特定例項：

Application application = eurekaClient.getApplication("myservice");
InstanceInfo instanceInfo = application.getInstances().get(0);
URI uri = new URI("http://" + instanceInfo.getIPAddr() + ":" + instanceInfo.getPort() + "/path");
HttpResponse response = HttpClientBuilder.create().build().execute(new HttpGet(uri));

實現伺服器端服務發現

伺服器端服務發現將服務登錄檔與負載均衡器整合以管理請求路由。

使用 Consul 和 NGINX 的示例

此示例演示如何將 Consul 與 NGINX 一起用於伺服器端服務發現，允許 NGINX 將請求路由到在 Consul 中註冊的服務，以實現動態負載均衡和故障轉移：

安裝 Consul：在您的系統上安裝 Consul 以啟用服務註冊和發現：

sudo apt-get install consul

在 Consul 中註冊服務：建立一個 JSON 配置檔案以將您的服務註冊到 Consul，包括健康檢查：

{
  "service": {
    "name": "myservice",
    "port": 8081,
    "check": {
      "http": "https://:8081/health",
      "interval": "10s"
    }
  }
}

配置 NGINX 使用 Consul：配置 NGINX 將請求路由到在 Consul 中註冊的服務例項：

http {
   upstream myservice {
      server localhost:8081;
      server localhost:8082;
   }

   server {
      listen 80;
      location / {
         proxy_pass http://myservice;
      }
   }
}

啟動 NGINX：啟動或重新啟動 NGINX 以應用新配置並開始負載均衡請求：

sudo service nginx start

列印頁面