TW201822013A - 伺服器負載均衡的方法、裝置及伺服器設備 - Google Patents

伺服器負載均衡的方法、裝置及伺服器設備 Download PDF

Info

Publication number
TW201822013A
TW201822013A TW106125919A TW106125919A TW201822013A TW 201822013 A TW201822013 A TW 201822013A TW 106125919 A TW106125919 A TW 106125919A TW 106125919 A TW106125919 A TW 106125919A TW 201822013 A TW201822013 A TW 201822013A
Authority
TW
Taiwan
Prior art keywords
server
group
target
link quality
groups
Prior art date
Application number
TW106125919A
Other languages
English (en)
Other versions
TWI759320B (zh
Inventor
嚴阿仁
魏晉
王笑臣
Original Assignee
香港商阿里巴巴集團服務有限公司
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 香港商阿里巴巴集團服務有限公司 filed Critical 香港商阿里巴巴集團服務有限公司
Publication of TW201822013A publication Critical patent/TW201822013A/zh
Application granted granted Critical
Publication of TWI759320B publication Critical patent/TWI759320B/zh

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/101—Server selection for load balancing based on network conditions
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L45/00—Routing or path finding of packets in data switching networks
    • H04L45/302—Route determination based on requested QoS
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L47/00—Traffic control in data switching networks
    • H04L47/10—Flow control; Congestion control
    • H04L47/12—Avoiding congestion; Recovering from congestion
    • H04L47/125—Avoiding congestion; Recovering from congestion by balancing the load, e.g. traffic engineering
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1008—Server selection for load balancing based on parameters of servers, e.g. available memory or workload
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1012—Server selection for load balancing based on compliance of requirements or conditions with available server resources
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/01—Protocols
    • H04L67/10—Protocols in which an application is distributed across nodes in the network
    • H04L67/1001—Protocols in which an application is distributed across nodes in the network for accessing one among a plurality of replicated servers
    • H04L67/1004—Server selection for load balancing
    • H04L67/1017—Server selection for load balancing based on a round robin mechanism
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/61—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources taking into account QoS or priority requirements
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/62—Establishing a time schedule for servicing the requests
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
    • H04L67/00—Network arrangements or protocols for supporting network services or applications
    • H04L67/50—Network services
    • H04L67/60—Scheduling or organising the servicing of application requests, e.g. requests for application data transmissions using the analysis and optimisation of the required network resources
    • H04L67/63—Routing a service request depending on the request content or context

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Signal Processing (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Computer And Data Communications (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本案公開了一種伺服器負載均衡的方法、裝置及伺服器設備，所述方法包括：根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組；按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；當接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組；從所述目標伺服器組中選擇目標後端伺服器；將所述目標後端伺服器與所述第一終端建立通信。該實施方式在選擇與使用者終端建立通信的目標後端伺服器時，進一步考慮了後端伺服器的鏈路品質問題，避免了由於目標後端伺服器的鏈路品質較差而造成的通信回應時間較長的問題，從而提高了使用者終端與伺服器集群的通信效率和通信品質。

Description

伺服器負載均衡的方法、裝置及伺服器設備
本案係關於互聯網技術領域，尤其關於伺服器負載均衡的方法、裝置及伺服器設備。
當使用者終端向伺服器集群發送存取請求時，伺服器集群中的分佈伺服器會採用預定的策略演算法從伺服器集群中選擇出後端伺服器，並控制該選擇出的後端伺服器與使用者終端建立通信連接。在現有技術中，一般會採用IP位址散列演算法或者輪詢調度演算法直接從伺服器集群中選擇後端伺服器與使用者終端建立通信連接，但上述方法忽略了後端伺服器的鏈路品質問題。因此，在現有技術中，有可能會頻繁的選擇出鏈路品質較差的後端伺服器與使用者終端建立連接並進行交互。如果被選中的後端伺服器的鏈路品質較差，則在與使用者終端建立通信連接後，該後端伺服器的通信回應時間會比較長，從而降低了使用者終端與伺服器集群的通信效率和通信品質。
為了解決上述技術問題，本案提供了一種伺服器負載 均衡的方法、裝置及伺服器設備。
根據本案實施例的第一方面，提供一種伺服器設備，包括：中央處理器，選擇策略單元，接收器，通信單元；所述中央處理器，用於根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組，並按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；所述接收器，用於接收第一終端發送的存取請求；所述選擇策略單元，用於在接收器接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組，並從目標伺服器組中選擇目標後端伺服器；所述通信單元，用於基於所述選擇策略單元的選擇，在所述目標後端伺服器與所述第一終端之間建立通信。
根據本案實施例的第二方面，提供一種伺服器負載均衡的方法，所述方法包括：根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組；按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；當接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組；從所述目標伺服器組中選擇目標後端伺服器； 在所述目標後端伺服器與所述第一終端之間建立通信。
根據本案實施例的協力廠商面，提供一種伺服器負載均衡的裝置，所述裝置包括：分組單元，用於根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組；設定單元，用於按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；第一選擇單元，用於在接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組；第二選擇單元，用於從所述目標伺服器組中選擇目標後端伺服器；建立單元，用於在所述目標後端伺服器與所述第一終端之間建立通信。
應用上述實施例，根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為多個伺服器組，並按照伺服器組的鏈路品質設定多個伺服器組的優先順序，在接收到使用者終端發送的存取請求時，基於上述優先順序從多個伺服器組中選擇一個伺服器組作為目標伺服器組，並從目標伺服器組中選擇出目標後端伺服器與使用者終端建立通信。因此，在選擇與使用者終端建立通信的目標後端伺服器時，進一步考慮了後端伺服器的鏈路品質問題，以實現從鏈路品質比較優的後端伺服器中選擇與使用者終端建立 通信的目標後端伺服器，避免了由於目標後端伺服器的鏈路品質較差而造成的通信回應時間較長的問題，從而縮短了通信回應時間，提高了使用者終端與伺服器集群的通信效率和通信品質。
應當理解的是，以上的一般描述和後文的細節描述僅是示例性和解釋性的，並不能限制本案。
100‧‧‧系統架構
101‧‧‧用戶終端設備
102‧‧‧用戶終端設備
103‧‧‧網路
104‧‧‧伺服器集群
105‧‧‧分佈伺服器
106‧‧‧後端伺服器
107‧‧‧後端伺服器
108‧‧‧後端伺服器
109‧‧‧後端伺服器
401‧‧‧伺服器負載均衡的裝置
402‧‧‧處理器
403‧‧‧記憶體
404‧‧‧網路介面
405‧‧‧非易失性記憶體
406‧‧‧內部匯流排
501‧‧‧分組單元
502‧‧‧設定單元
503‧‧‧第一選擇單元
504‧‧‧第二選擇單元
505‧‧‧建立單元
601‧‧‧中央處理器
602‧‧‧選擇策略單元
603‧‧‧接收器
604‧‧‧通信單元
此處的附圖被併入說明書中並構成本說明書的一部分，示出了符合本案的實施例，並與說明書一起用於解釋本案的原理。
圖1為應用本案實施例的示例性系統架構示意圖；圖2為本案伺服器負載均衡的方法的一個實施例流程圖；圖3為本案伺服器負載均衡的方法的另一個實施例流程圖；圖4為本案伺服器負載均衡的裝置所在設備的一種硬體結構圖；圖5為本案伺服器負載均衡的裝置的一個實施例方塊圖；圖6為本案伺服器設備的一個實施例方塊圖。
這裡將詳細地對示例性實施例進行說明，其示例表示 在附圖中。下面的描述涉及附圖時，除非另有表示，不同附圖中的相同數字表示相同或相似的要素。以下示例性實施例中所描述的實施方式並不代表與本案相一致的所有實施方式。相反，它們僅是與如所附權利要求書中所詳述的、本案的一些方面相一致的裝置和方法的例子。
在本案使用的術語是僅僅出於描述特定實施例的目的，而非旨在限制本案。在本案和所附權利要求書中所使用的單數形式的“一種”、“所述”和“該”也旨在包括多數形式，除非上下文清楚地表示其他含義。還應當理解，本文中使用的術語“和/或”是指並包含一個或多個相關聯的列出專案的任何或所有可能組合。
應當理解，儘管在本案可能採用術語第一、第二、第三等來描述各種資訊，但這些資訊不應限於這些術語。這些術語僅用來將同一類型的資訊彼此區分開。例如，在不脫離本案範圍的情況下，第一資訊也可以被稱為第二資訊，類似地，第二資訊也可以被稱為第一資訊。取決於語境，如在此所使用的詞語“如果”可以被解釋成為“在......時”或“當......時”或“回應於確定”。
參見圖1，為應用本案實施例的示例性系統架構示意圖：如圖1所示，系統架構100可以包括用戶終端設備101、102、網路103、伺服器集群104，其中，伺服器集群104可以包括至少一個分佈伺服器105，以及多個後端伺服器106、107、108、109等。
網路103用於在伺服器集群104和用戶終端設備101、102之間提供通信鏈路的媒介。網路103可以包括各種連接類型，例如有線、無線通訊鏈路或者光纖電纜等等。
使用者終端設備101、102可以藉由網路103與伺服器集群104交互，以接收或發送請求或資訊等。使用者終端設備101、102可以是各種電子設備，包括但不限於智慧手機、平板電腦、膝上型可攜式電腦以及桌上型電腦等等。伺服器集群104可以是提供各種服務的伺服器集群，可以回應於使用者的服務請求而提供服務。其中，分佈伺服器105用於在接收到用戶終端設備101或102的存取請求時，採用預定的選擇策略從後端伺服器106、107、108、109中選擇出一個目標後端伺服器，並控制該目標後端伺服器與使用者終端設備101或102建立通信，進行交互。
應該理解，圖1中的使用者終端設備、網路、分佈伺服器以及後端伺服器的數目僅僅是示意性的。根據實現需要，可以具有任意數目的使用者終端設備、網路、分佈伺服器以及後端伺服器。
基於圖1示出的系統架構，在本案實施例中，用戶終端設備101或102可以藉由網路103與伺服器集群104進行交互，以接收或發送資訊等。例如，使用者終端101或102可以藉由網路103向伺服器集群104發送存取請求，由伺服器集群104中的分佈伺服器105接收該存取請求。 分佈伺服器105回應於該存取請求，採用預定的選擇策略從後端伺服器106、107、108、109中選擇出一個目標後端伺服器，然後獲取該目標後端伺服器的位址作為目標位址，根據目標位址將上述存取請求轉發給目標後端伺服器。目標後端伺服器將應答資訊發送給分佈伺服器105，並由分佈伺服器105藉由網路103將應答資訊發送給使用者終端設備101或102，從而完成用戶終端設備101或102與伺服器集群104之間的交互。
下面將結合具體的實施例對本案進行詳細描述。
參見圖2，為本案伺服器負載均衡的方法的一個實施例流程圖，該實施例可以應用在分佈伺服器中，包括如下步驟：在步驟201中，根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為多個伺服器組。
一般來說，鏈路品質能夠反映通信鏈路的好壞，鏈路品質和通信速度、可達率(1-丟包率=可達率)以及抖動等問題相關，可以採用與通信速度以及可達率等相關的參數來表徵和衡量鏈路品質。在本實施例中，可以根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為任意多個伺服器組。可以理解，本案對劃分出的伺服器組的數量方面不限定。其中，在伺服器集群中，向使用者終端提供業務資料，承擔執行業務功能的伺服器稱為後端伺服器，後端伺服器可以與使用者終端進行通信交互。
具體來說，在一種實現方式中，首先，可以獲取預定 期內上述伺服器集群的鏈路品質參數作為參考參數，分別獲取預定期內伺服器集群中每個後端伺服器的鏈路品質參數。然後，將鏈路品質參數大於或等於該參考參數的後端伺服器劃分為一組，將鏈路品質參數小於該參考參數的後端伺服器劃分為一組。可以理解，也可以將鏈路品質參數小於該參考參數的後端伺服器劃分為多組，例如，可以再根據鏈路品質參數的大小，將鏈路品質參數小於該參考參數的後端伺服器劃分到不同的組。可以採用任意合理的方式將鏈路品質參數小於該參考參數的後端伺服器劃分為多組，本案對此方面不限定。其中，鏈路品質參數可以為能夠表徵鏈路品質的任意參數，如，資料傳輸速度、可達率以及和鏈路抖動相關的參數等等，也可以是對上述這些參數進行加權處理，得到反映上述鏈路品質綜合問題的參數。可以理解，鏈路品質參數還可以是其它的參數，本案對此方面不限定。
例如，假設將資料傳輸速度作為鏈路品質參數，則預定期內伺服器集群的鏈路品質參數，可以用預定期內伺服器集群所傳輸的資料總量除以預定期的時間而得到，並作為參考參數。而針對伺服器集群中每個後端伺服器，預定期內某個後端伺服器的鏈路品質參數，可以用預定期內該後端伺服器所傳輸的資料量除以預定期的時間而得到。然後，將資料傳輸速度大於或等於參考參數的後端伺服器分為一組，剩下的後端伺服器分為一組或多組。由此可知，資料傳輸速度大於或等於參考參數的後端伺服器組的鏈路 品質比另一組或多組後端伺服器組的鏈路品質更好。
又例如，假設將可達率作為鏈路品質參數，則預定期內伺服器集群的鏈路品質參數，可以是預定期內伺服器集群的總可達率，並作為參考參數。而針對伺服器集群中每個後端伺服器，預定期內某個後端伺服器的鏈路品質參數，可以是預定期內該後端伺服器的可達率。然後，將可達率大於或等於參考參數的後端伺服器分為一組，剩下的後端伺服器分為一組或多組。由此可知，可達率大於或等於參考參數的後端伺服器組的鏈路品質比另一組或多組後端伺服器組的鏈路品質更好。
在另一種實現方式中，還可以分別獲取預定期內上述伺服器集群中每個後端伺服器的鏈路品質參數，將鏈路品質參數大於或等於預定臨限值的後端伺服器劃分為一組，將鏈路品質參數小於預定臨限值的後端伺服器劃分為一組或多組。其中，上述預定臨限值可以是從預存的資料中獲取的預設的參數，為預先設定的數值，本案對預定臨限值的具體取值方面不限定。
在本實施例中，預定期為預先設定的一段時間段，例如，假設分佈伺服器每隔預定的時間段(以預定的週期)，重新對後端伺服器進行一次分組，則預定期可以是上一個週期或者上N個週期。又例如，在根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為多個伺服器組的步驟中，還可以包括以輪詢的方式將伺服器集群中的後端伺服器與發送存取請求的第二終端建立通信的步 驟，則預定期即為上述輪詢期間。具體來說，在對後端伺服器進行分組之前，當接收到使用者終端(第二終端)的存取請求時，可以採用輪詢的方式將每個後端伺服器分別與多個發送存取請求的第二終端建立通信。經過一次輪詢之後，該輪詢期間即為預定期，可以獲取輪詢期間伺服器集群的鏈路品質參數以及後端伺服器的鏈路品質參數，基於這些參數對後端伺服器進行分組。
在步驟202中，按照伺服器組的鏈路品質設定多個伺服器組的優先順序。
在本實施例中，可以按照伺服器組的鏈路品質設定多個伺服器組的優先順序，其中，伺服器組按照優先順序從高到低的順序與按照鏈路品質從高到低的順序一致，即伺服器組的鏈路品質越高，該伺服器組的優先順序就越高。例如，假設A組伺服器組中的後端伺服器的資料傳輸速度均大於等於a，B組伺服器組中的後端伺服器的資料傳輸速度均小於a，因此，A組伺服器組的鏈路品質要高於B組伺服器組，則A組伺服器組的優先順序要高於B組伺服器組的優先順序。
在步驟203中，當接收到第一終端發送的存取請求時，基於優先順序從多個伺服器組中選擇一個伺服器組作為目標伺服器組。
在步驟204中，從目標伺服器組中選擇目標後端伺服器。
在本實施例中，當接收到第一終端發送的存取請求 時，可以先從多個伺服器組中的一個或多個備選伺服器組中選擇優先順序最高的伺服器組作為目標伺服器組。其中，備選伺服器組為包括處於可用狀態的後端伺服器的伺服器組。然後，採用預定演算法從目標伺服器組中選擇出處於可用狀態的後端伺服器作為目標後端伺服器。例如，A組伺服器組的優先順序要高於B組伺服器組的優先順序。當接收到第一終端發送的存取請求時，先從A組伺服器組中選擇目標後端伺服器，如果A組中的伺服器均不可用，再從優先順序次一級的B組伺服器組中選擇目標後端伺服器。
在本實施例中，預定的演算法可以包括：權重輪詢調度演算法。可以理解，預定的演算法還可以包括其它任意合理的演算法，本案對預定演算法的具體種類方面不限定。
在步驟205中，在目標後端伺服器與第一終端之間建立通信。
應用上述實施例，根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為多個伺服器組，並按照伺服器組的鏈路品質設定多個伺服器組的優先順序，在接收到使用者終端發送的存取請求時，基於上述優先順序從多個伺服器組中選擇一個伺服器組作為目標伺服器組，並從目標伺服器組中選擇出目標後端伺服器與使用者終端建立通信。因此，在選擇與使用者終端建立通信的目標後端伺服器時，進一步考慮了後端伺服器的鏈路品質問題，以實現 從鏈路品質比較優的後端伺服器中選擇與使用者終端建立通信的目標後端伺服器，避免了由於目標後端伺服器的鏈路品質較差而造成的通信回應時間較長的問題，從而縮短了通信回應時間，提高了使用者終端與伺服器集群的通信效率和通信品質。
參見圖3，為本案伺服器負載均衡的方法的另一個實施例流程圖，該實施例結合具體的例子對按照預定的週期進行分組的過程進行詳細描述，該實施例可以應用在分佈伺服器中，包括如下步驟：在步驟301中，按照預先設定的週期啟動計時器開始計時。
一般來說，伺服器的鏈路品質可能會發生變化，因此，每隔一定時間段，需要重新根據伺服器的鏈路品質進行分組。在本實施例中，可以採用計時器進行計時，當計時器的週期結束時刻到達時，計時器會發送一個觸發信號，以觸發分佈伺服器重新對後端伺服器進行分組。
在本實施例中，預定週期可以是任意合理的週期，本案對預定週期的具體取值方面不限定。
在步驟302中，根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為多個伺服器組。
在步驟303中，按照伺服器組的鏈路品質設定多個伺服器組的優先順序。
在步驟304中，當接收到第一終端發送的存取請求時，基於優先順序從多個伺服器組中選擇一個伺服器組作 為目標伺服器組。
在步驟305中，從目標伺服器組中選擇目標後端伺服器。
在步驟306中，在目標後端伺服器與第一終端之間建立通信。
在步驟307中，判斷計時器的週期結束時刻是否到達，如果計時器的週期結束時刻到達，則重新從步驟302的步驟開始執行。
在本實施例中，如果計時器的週期結束時刻未到達，則繼續從步驟304的開始執行。
應用上述實施例，按照預先設定的週期啟動計時器開始計時，並根據伺服器集群中後端伺服器的鏈路品質，將後端伺服器劃分為多個伺服器組，按照伺服器組的鏈路品質設定多個伺服器組的優先順序，在接收到使用者終端發送的存取請求時，基於上述優先順序從多個伺服器組中選擇一個伺服器組作為目標伺服器組，並從目標伺服器組中選擇出目標後端伺服器與使用者終端建立通信，在計時器的週期結束時刻到達時，重新執行將後端伺服器劃分為多個伺服器組的步驟。因此，不僅在選擇與使用者終端建立通信的目標後端伺服器時，考慮了後端伺服器的鏈路品質問題，而且還考慮了伺服器的鏈路品質可能會發生變化的問題，每隔一定時間段，重新根據伺服器的鏈路品質進行分組，從而進一步避免了由於目標後端伺服器的鏈路品質較差而造成的通信回應時間較長的問題，縮短了通信回應 時間，有助於提高使用者終端與伺服器集群的通信效率和通信品質。
應當注意，儘管在附圖中以特定順序描述了本發明方法的操作，但是，這並非要求或者暗示必須按照該特定順序來執行這些操作，或是必須執行全部所示的操作才能實現期望的結果。相反，流程圖中描繪的步驟可以改變執行順序。附加地或備選地，可以省略某些步驟，將多個步驟合併為一個步驟執行，和/或將一個步驟分解為多個步驟執行。
下面結合一個完整的伺服器負載均衡的應用實例，對本案方案進行示意性說明。
應用場景可以為：使用者終端A與伺服器集群B進行交互時，藉由伺服器集群B中的分佈伺服器C與後端伺服器D建立連接的過程。
具體來說，首先，伺服器集群B中的分佈伺服器C按照預先設定的週期啟動計時器開始計時，並且，首先以輪詢的方式將伺服器集群B中的每個後端伺服器分別與多個發送存取請求的使用者終端建立通信。經過一次輪詢之後，可以獲取輪詢期間伺服器集群C的鏈路品質參數m以及每個後端伺服器的鏈路品質參數(鏈路品質參數越大，鏈路品質越高)。可以將鏈路品質參數大於或者等於m的後端伺服器劃分為甲組，將鏈路品質參數小於m大於n(m大於n)的後端伺服器劃分為乙組，將鏈路品質參數小於n的後端伺服器分劃為丙組。其中，設定優先順序 從高到低的順序為甲組，乙組，丙組。
接著，當使用者終端A向伺服器集群B中的分佈伺服器C發送存取請求時，假設當前甲組中的後端伺服器均處於不可用的狀態，而乙組和丙組中均包括處於可用狀態的後端伺服器。那麼可以從乙組和丙組中選擇優先順序最高的組乙組作為目標伺服器組。採用預定演算法從乙組中選擇一個處於可用狀態的後端伺服器D。分佈伺服器C可以將後端伺服器D與使用者終端A建立通信，從而實現後端伺服器D與使用者終端A之間的交互。
當計時器開始計時計時器的週期結束時刻到達時，則重新執行以輪詢的方式將伺服器集群B中的每個後端伺服器分別與多個發送存取請求的使用者終端建立通信，並對伺服器集群B中的後端伺服器進行分組的步驟。
可見，應用上述方案，在回應於使用者終端的存取請求，為使用者終端選擇後端伺服器時，參考了伺服器集群中每個後端伺服器的鏈路品質，能夠盡可能選擇鏈路品質較好的後端伺服器與上述使用者終端進行通信交互，從而能夠避免由於後端伺服器的鏈路品質較差而造成的通信回應時間較長的問題，縮短了通信回應時間，提高了使用者終端與伺服器集群的通信效率和通信品質。
與本案伺服器負載均衡的方法的實施例相對應，本案還提供了伺服器負載均衡的裝置及伺服器設備的實施例。
本案伺服器負載均衡的裝置的實施例可以應用在伺服器設備上。裝置實施例可以藉由軟體實現，也可以藉由硬 體或者軟硬體結合的方式實現。以軟體實現為例，作為一個邏輯意義上的裝置，是藉由其所在設備的處理器將非易失性記憶體中對應的電腦程式指令讀取到記憶體中運行形成的。從硬體層面而言，如圖4所示，為本案伺服器負載均衡的裝置401所在設備400的一種硬體結構圖，設備400包括處理器402、記憶體403、網路介面404、非易失性記憶體405以及內部匯流排406，其中，處理器402、記憶體403、網路介面404以及非易失性記憶體405相互之間可以藉由內部匯流排406進行通信。除了圖4所示的處理器402、記憶體403、網路介面404、非易失性記憶體405以及內部匯流排406之外，實施例中裝置所在的設備400通常根據該設備的實際功能，還可以包括其他硬體，圖4中不再一一示出。
參見圖5，為本案伺服器負載均衡的裝置的一個實施例方塊圖。
該裝置包括：分組單元501，設定單元502，第一選擇單元503，第二選擇單元504和建立單元505。
其中，分組單元501，用於根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組；設定單元502，用於按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；第一選擇單元503，用於在接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇 一個伺服器組作為目標伺服器組；第二選擇單元504，用於從所述目標伺服器組中選擇目標後端伺服器；建立單元505，用於在所述目標後端伺服器與所述第一終端之間建立通信。
在一個可選的實現方式中，所述伺服器組按照優先順序從高到低的順序與按照鏈路品質從高到低的順序一致。
在另一個可選的實現方式中，所述裝置還可以包括(圖5中未示出)：定時單元，用於按照預先設定的週期啟動計時器開始計時；判斷單元，用於判斷計時器的週期結束時刻是否到達，如果計時器的週期結束時刻到達，則重新執行所述將所述後端伺服器劃分為多個伺服器組的步驟。
在另一個可選的實現方式中，所述分組單元501可以包括(圖5中未示出)：第一獲取子單元，用於獲取參考參數；第二獲取子單元，用於分別獲取預定期內所述伺服器集群中每個後端伺服器的鏈路品質參數；第一分組子單元，用於將鏈路品質參數大於或等於所述參考參數的後端伺服器劃分為一組，並將鏈路品質參數小於所述參考參數的後端伺服器劃分為一組或多組。
在另一個可選的實現方式中，第一獲取子單元被配置用於： 獲取所述預定期內所述伺服器集群的鏈路品質參數作為所述參考參數；或者從預存的資料中獲取預設的參數作為所述參考參數。
在另一個可選的實現方式中，所述分組單元501還可以包括(圖5中未示出)：輪詢子單元，用於以輪詢的方式將伺服器集群中的後端伺服器與發送存取請求的第二終端建立通信，將輪詢期作為所述預定期。
在另一個可選的實現方式中，所述第一選擇單元503被配置用於：從所述多個伺服器組中的一個或多個備選伺服器組中選擇優先順序最高的伺服器組作為所述目標伺服器組，所述備選伺服器組中包括處於可用狀態的後端伺服器。
在另一個可選的實現方式中，第二選擇單元504被配置用於：採用預定演算法從所述目標伺服器組中選擇出處於可用狀態的後端伺服器作為目標後端伺服器。
在另一個可選的實現方式中，所述預定的演算法包括：權重輪詢調度演算法。
上述裝置中各個單元的功能和作用的實現過程具體詳見上述方法中對應步驟的實現過程，在此不再贅述。
應當理解，上述裝置可以預先設置在伺服器中，也可以藉由下載等方式而載入到伺服器中。上述裝置中的相應模組單元可以與伺服器中的模組單元相互配合以實現伺服 器負載均衡的方案。
參見圖6，為本案伺服器設備的一個實施例方塊圖。
該伺服器設備應用於伺服器集群中的在分佈伺服器中，包括：中央處理器601，選擇策略單元602，接收器603和通信單元604。
其中，由中央處理器601根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組，並按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；由接收器603接收第一終端發送的存取請求，當接收器603接收到第一終端發送的存取請求時，選擇策略單元602基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組，並從目標伺服器組中選擇目標後端伺服器；藉由所述通信單元604將所述目標後端伺服器與所述第一終端建立通信。
在一個可選的實現方式中，所述伺服器組按照優先順序從高到低的順序與按照鏈路品質從高到低的順序一致。
在另一個可選的實現方式中，所述伺服器設備還包括：計時器和控制器(圖6中未示出)；所述計時器，用於按照預先設定的週期啟動計時；所述控制器，用於在計時器的週期結束時刻到達時，控制所述中央處理器601重新執行所述將所述後端伺服器劃分為多個伺服器組的步驟。
在另一個可選的實現方式中，所述中央處理器601配 置用於：分別獲取預定期內所述伺服器集群中每個後端伺服器的鏈路品質參數；獲取參考參數；將鏈路品質參數大於或等於所述參考參數的後端伺服器劃分為一組；將鏈路品質參數小於所述參考參數的後端伺服器劃分為一組或多組。
在另一個可選的實現方式中，所述中央處理601器藉由如下方式獲取參考參數：獲取所述預定期內所述伺服器集群的鏈路品質參數作為所述參考參數；或者從預存的資料中獲取預設的參數作為所述參考參數。
在另一個可選的實現方式中，所述中央處理器601還配置用於：以輪詢的方式將伺服器集群中的後端伺服器與發送存取請求的第二終端建立通信，將輪詢期作為所述預定期。
在另一個可選的實現方式中，所述選擇策略單元602藉由如下方式基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組：從所述多個伺服器組中的一個或多個備選伺服器組中選擇優先順序最高的伺服器組作為所述目標伺服器組，所述備選伺服器組中包括處於可用狀態的後端伺服器。
在另一個可選的實現方式中，所述選擇策略單元602 藉由如下方式從所述目標伺服器組中選擇目標後端伺服器：採用預定演算法從所述目標伺服器組中選擇出處於可用狀態的後端伺服器作為目標後端伺服器。
在另一個可選的實現方式中，所述預定的演算法包括：權重輪詢調度演算法。
對於裝置實施例而言，由於其基本對應於方法實施例，所以相關之處參見方法實施例的部分說明即可。以上所描述的裝置實施例僅僅是示意性的，其中所述作為分離部件說明的單元可以是或者也可以不是物理上分開的，作為單元顯示的部件可以是或者也可以不是物理單元，即可以位於一個地方，或者也可以分佈到多個網路單元上。可以根據實際的需要選擇其中的部分或者全部模組來實現本案方案的目的。本領域普通技術人員在不付出創造性勞動的情況下，即可以理解並實施。
本領域技術人員在考慮說明書及實踐這裡公開的發明後，將容易想到本案的其它實施方案。本案旨在涵蓋本案的任何變型、用途或者適應性變化，這些變型、用途或者適應性變化遵循本案的一般性原理並包括本案未公開的本技術領域中的公知常識或慣用技術手段。說明書和實施例僅被視為示例性的，本案的真正範圍和精神由下面的權利要求指出。
應當理解的是，本案並不局限於上面已經描述並在附圖中示出的精確結構，並且可以在不脫離其範圍進行各種 修改和改變。本案的範圍僅由所附的權利要求來限制。

Claims (27)

  1. 一種伺服器設備，所述伺服器設備包括：中央處理器、選擇策略單元、接收器、通信單元；所述中央處理器，用於根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組，並按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；所述接收器，用於接收第一終端發送的存取請求；所述選擇策略單元，用於在接收器接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組，並從目標伺服器組中選擇目標後端伺服器；所述通信單元，用於基於所述選擇策略單元的選擇，在所述目標後端伺服器與所述第一終端之間建立通信。
  2. 如申請專利範圍第1項所述的伺服器設備，其中，所述伺服器組按照優先順序從高到低的順序與按照鏈路品質從高到低的順序一致。
  3. 如申請專利範圍第1項所述的伺服器設備，其中，所述伺服器設備還包括：計時器和控制器；所述計時器，用於按照預先設定的週期啟動計時；所述控制器，用於在計時器的週期結束時刻到達時， 控制所述中央處理器重新執行所述將所述後端伺服器劃分為多個伺服器組的步驟。
  4. 如申請專利範圍第1項所述的伺服器設備，其中，所述中央處理器配置用於：分別獲取預定期內所述伺服器集群中每個後端伺服器的鏈路品質參數；獲取參考參數；將鏈路品質參數大於或等於所述參考參數的後端伺服器劃分為一組；將鏈路品質參數小於所述參考參數的後端伺服器劃分為一組或多組。
  5. 如申請專利範圍第4項所述的伺服器設備，其中，所述中央處理器藉由如下方式獲取參考參數：獲取所述預定期內所述伺服器集群的鏈路品質參數作為所述參考參數；或者從預存的資料中獲取預設的參數作為所述參考參數。
  6. 如申請專利範圍第4項所述的伺服器設備，其中，所述中央處理器還配置用於：以輪詢的方式將伺服器集群中的後端伺服器與發送存取請求的第二終端建立通信，將輪詢期作為所述預定期。
  7. 如申請專利範圍第1項所述的伺服器設備，其中，所述選擇策略單元藉由如下方式基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組：從所述多個伺服器組中的一個或多個備選伺服器組中選擇優先順序最高的伺服器組作為所述目標伺服器組，所述備選伺服器組中包括處於可用狀態的後端伺服器。
  8. 如申請專利範圍第1項所述的伺服器設備，其中，所述選擇策略單元藉由如下方式從所述目標伺服器組中選擇目標後端伺服器：採用預定演算法從所述目標伺服器組中選擇出處於可用狀態的後端伺服器作為目標後端伺服器。
  9. 如申請專利範圍第8項所述的伺服器設備，其中，所述預定的演算法包括：權重輪詢調度演算法。
  10. 一種伺服器負載均衡的方法，所述方法包括：根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組；按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；當接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組； 從所述目標伺服器組中選擇目標後端伺服器；在所述目標後端伺服器與所述第一終端之間建立通信。
  11. 如申請專利範圍第10項所述的方法，其中，所述伺服器組按照優先順序從高到低的順序與按照鏈路品質從高到低的順序一致。
  12. 如申請專利範圍第10項所述的方法，其中，所述方法還包括：按照預先設定的週期啟動計時器開始計時；判斷計時器的週期結束時刻是否到達，如果計時器的週期結束時刻到達，則重新執行所述將所述後端伺服器劃分為多個伺服器組的步驟。
  13. 如申請專利範圍第10項所述的方法，其中，所述根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組，包括：分別獲取預定期內所述伺服器集群中每個後端伺服器的鏈路品質參數；獲取參考參數；將鏈路品質參數大於或等於所述參考參數的後端伺服器劃分為一組；將鏈路品質參數小於所述參考參數的後端伺服器劃分 為一組或多組。
  14. 如申請專利範圍第13項所述的方法，其中，所述獲取參考參數，包括：獲取所述預定期內所述伺服器集群的鏈路品質參數作為所述參考參數；或者從預存的資料中獲取預設的參數作為所述參考參數。
  15. 如申請專利範圍第13項所述的方法，其中，所述根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組，還包括：以輪詢的方式將伺服器集群中的後端伺服器與發送存取請求的第二終端建立通信，將輪詢期作為所述預定期。
  16. 如申請專利範圍第10項所述的方法，其中，所述基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組，包括：從所述多個伺服器組中的一個或多個備選伺服器組中選擇優先順序最高的伺服器組作為所述目標伺服器組，所述備選伺服器組中包括處於可用狀態的後端伺服器。
  17. 如申請專利範圍第10項所述的方法，其中，所述從所述目標伺服器組中選擇目標後端伺服器，包括：採用預定演算法從所述目標伺服器組中選擇出處於可 用狀態的後端伺服器作為目標後端伺服器。
  18. 如申請專利範圍第17項所述的方法，其中，所述預定的演算法包括：權重輪詢調度演算法。
  19. 一種伺服器負載均衡的裝置，所述裝置包括：分組單元，用於根據伺服器集群中後端伺服器的鏈路品質，將所述後端伺服器劃分為多個伺服器組；設定單元，用於按照伺服器組的鏈路品質設定所述多個伺服器組的優先順序；第一選擇單元，用於在接收到第一終端發送的存取請求時，基於所述優先順序從所述多個伺服器組中選擇一個伺服器組作為目標伺服器組；第二選擇單元，用於從所述目標伺服器組中選擇目標後端伺服器；建立單元，用於在所述目標後端伺服器與所述第一終端之間建立通信。
  20. 如申請專利範圍第19項所述的裝置，其中，所述伺服器組按照優先順序從高到低的順序與按照鏈路品質從高到低的順序一致。
  21. 如申請專利範圍第19項所述的裝置，其中，所述裝置還包括： 定時單元，用於按照預先設定的週期啟動計時器開始計時；判斷單元，用於判斷計時器的週期結束時刻是否到達，如果計時器的週期結束時刻到達，則重新執行所述將所述後端伺服器劃分為多個伺服器組的步驟。
  22. 如申請專利範圍第19項所述的裝置，其中，所述分組單元包括：第一獲取子單元，用於獲取參考參數；第二獲取子單元，用於分別獲取預定期內所述伺服器集群中每個後端伺服器的鏈路品質參數；第一分組子單元，用於將鏈路品質參數大於或等於所述參考參數的後端伺服器劃分為一組，並將鏈路品質參數小於所述參考參數的後端伺服器劃分為一組或多組。
  23. 如申請專利範圍第22項所述的裝置，其中，所述第一獲取子單元被配置用於：獲取所述預定期內所述伺服器集群的鏈路品質參數作為所述參考參數；或者從預存的資料中獲取預設的參數作為所述參考參數。
  24. 如申請專利範圍第22項所述的裝置，其中，所述分組單元還包括：輪詢子單元，用於以輪詢的方式將伺服器集群中的後 端伺服器與發送存取請求的第二終端建立通信，將輪詢期作為所述預定期。
  25. 如申請專利範圍第19項所述的裝置，其中，所述第一選擇單元被配置用於：從所述多個伺服器組中的一個或多個備選伺服器組中選擇優先順序最高的伺服器組作為所述目標伺服器組，所述備選伺服器組中包括處於可用狀態的後端伺服器。
  26. 如申請專利範圍第19項所述的裝置，其中，所述第二選擇單元被配置用於：採用預定演算法從所述目標伺服器組中選擇出處於可用狀態的後端伺服器作為目標後端伺服器。
  27. 如申請專利範圍第26項所述的裝置，其中，所述預定的演算法包括：權重輪詢調度演算法。
TW106125919A 2016-12-07 2017-08-01 伺服器負載均衡的方法、裝置及伺服器設備 TWI759320B (zh)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
CN201611117522.5 2016-12-07
CN201611117522.5A CN108173894A (zh) 2016-12-07 2016-12-07 服务器负载均衡的方法、装置及服务器设备
??201611117522.5 2016-12-07

Publications (2)

Publication Number Publication Date
TW201822013A true TW201822013A (zh) 2018-06-16
TWI759320B TWI759320B (zh) 2022-04-01

Family

ID=62243545

Family Applications (1)

Application Number Title Priority Date Filing Date
TW106125919A TWI759320B (zh) 2016-12-07 2017-08-01 伺服器負載均衡的方法、裝置及伺服器設備

Country Status (6)

Country Link
US (1) US20180159920A1 (zh)
EP (1) EP3552111A4 (zh)
JP (1) JP2020501237A (zh)
CN (1) CN108173894A (zh)
TW (1) TWI759320B (zh)
WO (1) WO2018106609A1 (zh)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7003705B2 (ja) * 2018-02-06 2022-01-21 日本電信電話株式会社 サーバ選択装置、サーバ選択方法及びプログラム
CN109450980A (zh) * 2018-10-11 2019-03-08 东南大学 无线云计算系统中基于时延要求差异的计算资源选择方法
CN110380981B (zh) * 2019-07-19 2022-10-28 厦门网宿有限公司 一种流量分发方法及设备
CN110740162B (zh) * 2019-08-30 2022-12-02 上海尚往网络科技有限公司 通信链路建立方法、装置、电子设备及介质
CN110650195B (zh) * 2019-09-24 2022-01-07 支付宝(杭州)信息技术有限公司 分布式负载均衡方法以及装置
CN110807050B (zh) * 2019-09-25 2023-05-30 平安科技（深圳）有限公司 性能分析方法、装置、计算机设备及存储介质
CN112565327B (zh) * 2019-09-26 2022-09-30 广州虎牙科技有限公司 访问流量转发方法、集群管理方法及相关装置
CN111262783B (zh) * 2020-01-14 2022-04-26 深圳前海微众银行股份有限公司 一种动态路由的方法及装置
CN112181900B (zh) * 2020-09-04 2024-05-14 中国银联股份有限公司 一种服务器集群中的数据处理方法与装置
CN113242307B (zh) * 2021-05-18 2023-04-25 北京达佳互联信息技术有限公司 服务请求处理方法、装置、服务器及存储介质
CN113746933B (zh) * 2021-09-14 2024-12-10 京东科技信息技术有限公司 显示信息的方法和装置
CN114285904B (zh) * 2021-12-22 2024-07-30 上海金仕达软件科技股份有限公司 服务的智能路由方法和装置
CN115550369A (zh) * 2022-08-29 2022-12-30 紫光云技术有限公司 一种实现智能负载均衡的方法
CN115633039A (zh) * 2022-09-28 2023-01-20 深圳壹账通智能科技有限公司 通信建立方法、负载均衡装置、设备及存储介质
CN116095085A (zh) * 2022-12-30 2023-05-09 国网浙江省电力有限公司宁波供电公司 一种远程巡检的服务器选择方法和装置

Family Cites Families (32)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6038599A (en) * 1997-04-23 2000-03-14 Mpath Interactive, Inc. Latency server and matchmaker
US6728748B1 (en) * 1998-12-01 2004-04-27 Network Appliance, Inc. Method and apparatus for policy based class of service and adaptive service level management within the context of an internet and intranet
US20020069279A1 (en) * 2000-12-29 2002-06-06 Romero Francisco J. Apparatus and method for routing a transaction based on a requested level of service
US6795858B1 (en) * 2000-12-29 2004-09-21 Cisco Technology, Inc. Method and apparatus for metric based server selection
US8066255B2 (en) * 2001-07-25 2011-11-29 Chia-Ping Wang Solenoid gas valve
JP2003256310A (ja) * 2002-03-05 2003-09-12 Nec Corp サーバ負荷分散システム、サーバ負荷分散装置、コンテンツ管理装置、及びサーバ負荷分散プログラム
US7260647B2 (en) * 2002-03-28 2007-08-21 International Business Machines Corporation Method of load balancing traffic among routers in a data transmission system
US20070192065A1 (en) * 2006-02-14 2007-08-16 Sun Microsystems, Inc. Embedded performance forecasting of network devices
US8159961B1 (en) * 2007-03-30 2012-04-17 Amazon Technologies, Inc. Load balancing utilizing adaptive thresholding
CN101340327B (zh) * 2008-08-21 2011-11-30 腾讯科技（深圳）有限公司 实现网络服务器负载均衡的方法和系统
JP5330026B2 (ja) * 2009-02-25 2013-10-30 株式会社エヌ・ティ・ティ・ドコモ 登録要求システム、登録要求サーバ装置、サーバ装置の登録要求制御方法
JP5244717B2 (ja) * 2009-07-02 2013-07-24 株式会社日立製作所 負荷割当制御方法および負荷分散システム
JP4995300B2 (ja) * 2010-04-20 2012-08-08 日本電信電話株式会社 サーバ選択制御装置、サービス要求装置、サーバ選択制御方法、サービス要求方法、サーバ選択制御プログラム、サービス要求プログラム、サービス提供システムおよびサービス提供方法
JP5637749B2 (ja) * 2010-06-30 2014-12-10 アラクサラネットワークス株式会社 パケット中継装置
US8838830B2 (en) * 2010-10-12 2014-09-16 Sap Portals Israel Ltd Optimizing distributed computer networks
TW201224738A (en) * 2010-12-01 2012-06-16 Inventec Corp Load-balancing method for a clustering system
EP2469756A1 (en) * 2010-12-24 2012-06-27 British Telecommunications Public Limited Company Communications network management
CN102055675B (zh) * 2011-01-21 2012-12-19 清华大学 一种基于负载均衡的多径路由分配方法
US9026814B2 (en) * 2011-06-17 2015-05-05 Microsoft Technology Licensing, Llc Power and load management based on contextual information
US8954587B2 (en) * 2011-07-27 2015-02-10 Salesforce.Com, Inc. Mechanism for facilitating dynamic load balancing at application servers in an on-demand services environment
CN102244613A (zh) * 2011-08-11 2011-11-16 深信服网络科技（深圳）有限公司 基于dns进行多链路流量均衡的方法、网关和网络
JP5735899B2 (ja) * 2011-10-25 2015-06-17 日本電信電話株式会社 サービス提供システム、ファイル更新方法、および分散管理装置
ES2491669T3 (es) * 2011-11-11 2014-09-08 Itron, Inc. Encaminamiento de comunicaciones en función de la calidad de enlaces
CN103929454B (zh) * 2013-01-15 2017-06-20 中国移动通信集团四川有限公司 一种云计算平台中负载均衡存储的方法和系统
JP6204168B2 (ja) * 2013-11-27 2017-09-27 株式会社日立製作所 転送装置、サーバ、および経路変更方法
US10425294B2 (en) * 2014-01-06 2019-09-24 Cisco Technology, Inc. Distributed and learning machine-based approach to gathering localized network dynamics
JP6281388B2 (ja) * 2014-04-08 2018-02-21 富士通株式会社 呼処理装置、呼制御装置、呼処理システム、及び呼処理方法
CN104219162A (zh) * 2014-09-10 2014-12-17 汉柏科技有限公司 基于dns的分组负载均衡方法、设备及系统
WO2016089262A1 (en) * 2014-12-02 2016-06-09 Telefonaktiebolaget Lm Ericsson (Publ) Methods and nodes for m2m communication
CN104580526A (zh) * 2015-02-03 2015-04-29 浪潮电子信息产业股份有限公司 一种高性能Web服务网络中的就近访问负载均衡调度方法
CN105872000A (zh) * 2015-12-21 2016-08-17 乐视云计算有限公司 P2p节点的分组方法、装置及系统
CN105872079B (zh) * 2016-05-12 2019-01-29 北京网瑞达科技有限公司 一种基于域名系统dns的链路均衡方法

Also Published As

Publication number Publication date
EP3552111A4 (en) 2020-01-22
EP3552111A1 (en) 2019-10-16
WO2018106609A1 (en) 2018-06-14
US20180159920A1 (en) 2018-06-07
JP2020501237A (ja) 2020-01-16
CN108173894A (zh) 2018-06-15
TWI759320B (zh) 2022-04-01

Similar Documents

Publication Publication Date Title
TWI759320B (zh) 伺服器負載均衡的方法、裝置及伺服器設備
CN109547286B (zh) 一种cdn节点的选择方法、设备及存储介质
US9537786B2 (en) Method, device, and system for information processing based on distributed buses
WO2008147578A1 (en) System and/or method for client- driven server load distribution
CN110830565B (zh) 资源下载方法、装置、系统、电子设备及存储介质
CN108848530A (zh) 一种获取网络资源的方法、装置及调度服务器
CN110035128B (zh) 一种直播调度方法、装置、直播系统及存储介质
CN110035306A (zh) 文件的部署方法及装置、调度方法及装置
WO2017107463A1 (zh) 一种分发cdn地址的方法及装置
CN112311628A (zh) 网络测速方法、系统、网络设备和存储介质
CN114003337A (zh) 访问请求的分配方法及装置
CN110113176B (zh) 用于配置服务器的信息同步方法及装置
CN110312140B (zh) 直播数据处理方法、装置、系统及计算机可读存储介质
JPWO2019232497A5 (zh)
CN114124926A (zh) 数据传输方法、设备、存储介质及计算机程序产品
WO2017185632A1 (zh) 数据传输的方法及电子设备
US8467313B1 (en) PHY bandwidth estimation from backpressure patterns
CN107528884B (zh) 一种聚合服务器的用户请求处理方法和装置
CN112491951A (zh) 对等网络中的请求处理方法、服务器及存储介质
CN105656794A (zh) 数据分发方法及装置
CN118764477A (zh) 文件传输方法、装置、电子设备和存储介质
US20170034252A1 (en) Masterless websocket server system
EP2951708B1 (en) Reporting errors on serial interfaces to application layers for flexible error handling approach selection
CN114077495B (zh) 一种边缘计算资源调度方法、存储介质及服务端
HK1256835A1 (zh) 服务器负载均衡的方法、装置及服务器设备

Legal Events

Date Code Title Description
MM4A Annulment or lapse of patent due to non-payment of fees