負載均衡的使用非常廣泛，基于不同的層次，有不同的應用作用，那么它的主要工作就是在不同的層次中進行規(guī)劃和控制，分配。那么就讓我們一起來數(shù)一數(shù)都有哪些負載均衡層次，每個層次中的負載均衡的作用和工作原理都是

負載均衡的使用非常廣泛，基于不同的層次，有不同的應用作用，那么它的主要工作就是在不同的層次中進行規(guī)劃和控制，分配。那么就讓我們一起來數(shù)一數(shù)都有哪些負載均衡層次，每個層次中的負載均衡的作用和工作原理都是如何的。 ◆負載均衡層次1：基于客戶端的負載均衡

這種模式指的是在網(wǎng)絡的客戶端運行特定的程序, 該程序通過定期或不定期的收集服務器群的運行參數(shù):CPU占用情況?磁盤 IO?內存等動態(tài)信息, 再根據(jù)某種選擇策略, 找到可以提供服務的最佳服務器, 將本地的應用請求發(fā)向它?如果負載信息采集程序發(fā) 現(xiàn)服務器失效, 則找到其他可替代的服務器作為服務選擇?整個過程對于應用程序來說是完全透明的, 所有的工作都在運行時處理? 因此這也是一種動態(tài)的負載均衡技術?

但這種技術存在通用性的問題?因為每一個客戶端都要安裝這個特殊的采集程序; 并且, 為了保證應用層的透明運行, 需要針對每一個應用程序加以修改, 通過動態(tài)鏈接庫或者嵌入的方法, 將客戶端的訪問請求能夠先經(jīng)過采集程序再發(fā)往服務器, 以重定向的過 程進行?對于每一個應用幾乎要對代碼進行重新開發(fā), 工作量比較大?

所以, 這種技術僅在特殊的應用場合才使用到, 比如在執(zhí)行某些專有任務的時候, 比較需要分布式的計算能力, 對應用的開發(fā)沒 有太多要求?另外, 在采用JAVA 構架模型中, 常常使用這種模式實現(xiàn)分布式的負載均衡, 因為java 應用都基于虛擬機進行, 可以在應 用層和虛擬機之間設計一個中間層, 處理負載均衡的工作?

◆負載均衡層次2：應用服務器的負載均衡技術

如果將客戶端的負載均衡層移植到某一個中間平臺, 形成三層結構, 則客戶端應用可以不需要做特殊的修改, 透明的通過中間層 應用服務器將請求均衡到相應的服務結點?比較常見的實現(xiàn)手段就是反向代理技術?使用反向代理服務器, 可以將請求均勻轉發(fā)給多 臺服務器, 或者直接將緩存的數(shù)據(jù)返回客戶端, 這樣的加速模式在一定程度上可以提升靜態(tài)網(wǎng)頁的訪問速度, 從而達到負載均衡的目 的?

使用反向代理的好處是, 可以將負載均衡和代理服務器的高速緩存技術結合在一起, 提供有益的性能?然而它本身也存在一些問 題, 首先就是必須為每一種服務都專門開發(fā)一個反向代理服務器, 這就不是一個輕松的任務?

反向代理服務器本身雖然可以達到很高效率, 但是針對每一次代理, 代理服務器就必須維護兩個連接, 一個對外的連接, 一個對 內的連接, 因此對于特別高的連接請求, 代

理服務器的負載也就非常之大?反向代理能夠執(zhí)行針對應用協(xié)議而優(yōu)化的負載均衡策略, 每次僅訪問最空閑的內部服務器來提供服務?但是隨著并發(fā)連接數(shù)量的增加, 代理服務器本身的負載也變得非常大, 最后反向代理服 務器本身會成為服務的瓶頸? ◆負載均衡層次3：基于域名系統(tǒng)的負載均衡

NCSA 的可擴展Web 是最早使用動態(tài)DNS 輪詢技術的web 系統(tǒng)?在DNS 中為多個地址配置同一個名字, 因而查詢這個名字的客戶機將 得到其中一個地址, 從而使得不同的客戶訪問不同的服務器, 達到負載均衡的目的?在很多知名的web 站點都使用了這個技術:包括 早期的yahoo 站點?163等?動態(tài)DNS 輪詢實現(xiàn)起來簡單, 無需復雜的配置和管理, 一般支持bind8.2以上的類unix 系統(tǒng)都能夠運行, 因 此廣為使用?

DNS 負載均衡是一種簡單而有效的方法, 但是存在不少問題?首先域名服務器無法知道服務結點是否有效, 如果服務結點失效, 余名系統(tǒng)依然會將域名解析到該節(jié)點上, 造成用戶訪問失效?

其次, 由于DNS 的數(shù)據(jù)刷新時間TTL(Time to LIVE)標志, 一旦超過這個TTL, 其他DNS 服務器就需要和這個服務器交互, 以重 新獲得地址數(shù)據(jù), 就有可能獲得不同IP 地址?因此為了使地址能隨機分配, 就應使TTL 盡量短, 不同地方的DNS 服務器能更新對應的 地址, 達到隨機獲得地址?然而將TTL 設置得過短, 將使DNS 流量大增, 而造成額外的網(wǎng)絡問題?

最后, 它不能區(qū)分服務器的差異, 也不能反映服務器的當前運行狀態(tài)?當使用DNS 負載均衡的時候, 必須盡量保證不同的客戶計 算機能均勻獲得不同的地址?例如, 用戶A 可能只是瀏覽幾個網(wǎng)頁, 而用戶B 可能進行著大量的下載, 由于域名系統(tǒng)沒有合適的負載策 略, 僅僅是簡單的輪流均衡, 很容易將用戶A 的請求發(fā)往負載輕的站點, 而將B 的請求發(fā)往負載已經(jīng)很重的站點?因此, 在動態(tài)平衡特 性上, 動態(tài)DNS 輪詢的效果并不理想?

◆負載均衡層次4：高層協(xié)議內容交換技術

除了上述的幾種負載均衡方式之外, 還有在協(xié)議內部支持負載均衡能力的技術, 即URL 交換或七層交換, 提供了一種對訪問流量 的高層控制方式?Web 內容交換技術檢查所有的HTTP 報頭, 根據(jù)報頭內的信息來執(zhí)行負載均衡的決策?例如可以根據(jù)這些信息來確定 如何為個人主頁和圖像數(shù)據(jù)等內容提供服務, 常見的有HTTP 協(xié)議中的重定向能力等?

HTTP 運行于TCP 連接的最高層?客戶端通過恒定的端口號80的TCP 服務直接連接到服務器, 然后通過TCP 連接向服務器端發(fā)送一個 HTTP請求?協(xié)議交換根據(jù)內容策略來控制負載, 而不是根據(jù)TCP 端口號, 所以不會造成訪問流量的滯留?

由于負載平衡設備要把進入的請求分配給多個服務器, 因此, 它只能在TCP 連接時建立, 且HTTP 請求通過后才能確定如何進行負 載的平衡?當一個網(wǎng)站的點擊率達到每秒上百甚至上千次時,TCP 連接?HTTP 報頭信息的分析以及進程的時延已經(jīng)變得很重要了, 要 盡一切可能提高這幾各部份的性能?

在HTTP 請求和報頭中有很多對負載平衡有用的信息?我們可以從這些信息中獲知客戶端所請求的URL 和網(wǎng)頁, 利用這個信息, 負 載平衡設備就可以將所有的圖像請求引導到一個圖像服務器, 或者根據(jù)URL 的數(shù)據(jù)庫查詢內容調用CGI 程序, 將請求引導到一個專用 的高性能數(shù)據(jù)庫服務器?

如果網(wǎng)絡管理員熟悉內容交換技術, 他可以根據(jù)HTTP 報頭的cookie 字段來使用Web 內容交換技術改善對特定客戶的服務, 如果能 從HTTP 請求中找到一些規(guī)律, 還可以充分利用它作出各種決策?除了TCP 連接表的問題外, 如何查找合適的HTTP 報頭信息以及作出 負載平衡決策的過程, 是影響Web 內容交換技術性能的重要問題?如果Web 服務器已經(jīng)為圖像服務?SSL 對話?數(shù)據(jù)庫事務服務之類的 特殊功能進行了優(yōu)化, 那么, 采用這個層次的流量控制將可以提高網(wǎng)絡的性能?

◆負載均衡層次5：網(wǎng)絡接入?yún)f(xié)議交換

大型的網(wǎng)絡一般都是由大量專用技術設備組成的, 如包括防火墻?路由器?第3?4層交換機?負載均衡設備?緩沖服務器和Web 服務器等?如何將這些技術設備有機地組合在一起, 是一個直接影響到網(wǎng)絡性能的關鍵性問題?現(xiàn)在許多交換機提供第四層交換功 能, 對外提供一個一致的IP 地址, 并映射為多個內部IP 地址, 對每次TCP 和UDP 連接請求, 根據(jù)其端口號, 按照即定的策略動態(tài)選擇 一個內部地址, 將數(shù)據(jù)包轉發(fā)到該地址上, 達到負載均衡的目的?很多硬件廠商將這種技術集成在他們的交換機中, 作為他們第四層 交換的一種功能來實現(xiàn), 一般采用隨機選擇?根據(jù)服務器的連接數(shù)量或者響應時間進行選擇的負載均衡策略來分配負載?由于地址轉 換相對來講比較接近網(wǎng)絡的低層, 因此就有可能將它集成在硬件設備中, 通常這樣的硬件設備是局域網(wǎng)交換機?

當前局域網(wǎng)交換機所謂的第四層交換技術, 就是按照IP 地址和TCP 端口進行虛擬連接的交換, 直接將數(shù)據(jù)包發(fā)送到目的計算機的 相應端口?通過交換機將來自外部的初始連接請求, 分別與內部的多個地址相聯(lián)系, 此后就能對這些已經(jīng)建立的虛擬連接進

行交換? 因此, 一些具備第四層交換能力的局域網(wǎng)交換機, 就能作為一個硬件負載均衡器, 完成服務器的負載均衡?

由于第四層交換基于硬件芯片, 因此其性能非常優(yōu)秀, 尤其是對于網(wǎng)絡傳輸速度和交換速度遠遠超過普通的數(shù)據(jù)包轉發(fā)?然而, 正因為它是使用硬件實現(xiàn)的, 因此也不夠靈活, 僅僅能夠處理幾種最標準的應用協(xié)議的負載均衡, 如HTTP ?當前負載均衡主要用于 解決服務器的處理能力不足的問題, 因此并不能充分發(fā)揮交換機帶來的高網(wǎng)絡帶寬的優(yōu)點?

使用基于操作系統(tǒng)的第四層交換技術因此孕育而生?通過開放源碼的Linux, 將第四層交換的核心功能做在系統(tǒng)的核心層, 能夠在 相對高效穩(wěn)定的核心空間進行IP 包的數(shù)據(jù)處理工作, 其效率不比采用專有OS 的硬件交換機差多少?同時又可以在核心層或者用戶層增 加基于交換核心的負載均衡策略支持, 因此在靈活性上遠遠高于硬件系統(tǒng), 而且造價方面有更好的優(yōu)勢?

◆負載均衡層次6：傳輸鏈路聚合

為了支持與日俱增的高帶寬應用, 越來越多的PC 機使用更加快速的鏈路連入網(wǎng)絡?而網(wǎng)絡中的業(yè)務量分布是不平衡的, 核心高? 邊緣低, 關鍵部門高?一般部門低?伴隨計算機處理能力的大幅度提高, 人們對多工作組局域網(wǎng)的處理能力有了更高的要求?當企業(yè) 內部對高帶寬應用需求不斷增大時(例如Web 訪問?文檔傳輸及內部網(wǎng)連接), 局域網(wǎng)核心部位的數(shù)據(jù)接口將產生瓶頸問題, 瓶頸延 長了客戶應用請求的響應時間?并且局域網(wǎng)具有分散特性, 網(wǎng)絡本身并沒有針對服務器的保護措施, 一個無意的動作(像一腳踢掉網(wǎng) 線的插頭) 就會讓服務器與網(wǎng)絡斷開?

通常, 解決瓶頸問題采用的對策是提高服務器鏈路的容量, 使其超出目前的需求?例如可以由快速以太網(wǎng)升級到千兆以太網(wǎng)?對 于大型企業(yè)來說, 采用升級技術是一種長遠的?有前景的解決方案?然而對于許多企業(yè), 當需求還沒有大到非得花費大量的金錢和時 間進行升級時, 使用升級技術就顯得大材小用了?在這種情況下, 鏈路聚合技術為消除傳輸鏈路上的瓶頸與不安全因素提供了成本低 廉的解決方案?

鏈路聚合技術, 將多個線路的傳輸容量融合成一個單一的邏輯連接?當原有的線路滿足不了需求, 而單一線路的升級又太昂貴或 難以實現(xiàn)時, 就要采用多線路的解決方案了?目前有5種鏈路聚合技術可以將多條線路“捆綁" 起來?同步IMUX 系統(tǒng)工作在T1/E1的比特層, 利用多個同步的DS1信道傳輸數(shù)據(jù), 來實現(xiàn)負載均衡?IMA 是另外一種多線路的反向多路復用技術, 工作在信元級, 能夠運行在使用ATM 路由器的平臺上?用路由器來實現(xiàn)多線路是一種流行的鏈路聚合技術, 路由器可以根據(jù)已知的目的地

址的緩沖(cache)大小, 將分組分配給各個平 行的鏈路, 也可以采用循環(huán)分配的方法來向線路分發(fā)分組?

多重鏈路PPP, 又稱MP 或MLP, 是應用于使用PPP 封裝數(shù)據(jù)鏈路的路由器負載平衡技術?MP 可以將大的PPP 數(shù)據(jù)包分解成小的數(shù)據(jù) 段, 再將其分發(fā)給平行的多個線路, 還可以根據(jù)當前的鏈路利用率來動態(tài)地分配撥號線路?這樣做盡管速度很慢, 因為數(shù)據(jù)包分段和 附加的緩沖都增加時延, 但可以在低速的線路上運行得很好?

還有一種鏈路聚合發(fā)生在服務器或者網(wǎng)橋的接口卡上, 通過同一塊接口卡的多個端口映射到相同的IP 地址, 均衡本地的以太網(wǎng)流 量以實現(xiàn)在服務器上經(jīng)過的流量成倍增加?目前市面上的產品有intel 和dlink 的多端口網(wǎng)卡,, 一般在一塊網(wǎng)卡上綁定4個100M 以太端 口, 大大提高了服務器的網(wǎng)絡吞吐量?不過這項技術由于需要操作系統(tǒng)驅動層的支持, 只能在win2000和linux 下實現(xiàn)?

鏈路聚合系統(tǒng)增加了網(wǎng)絡的復雜性, 但也提高了網(wǎng)絡的可靠性, 使人們可以在服務器等關鍵LAN 段的線路上采用冗余路由?對于 IP系統(tǒng), 可以考慮采用VRRP(虛擬路由冗余協(xié)議) ?VRRP 可以生成一個虛擬缺省的網(wǎng)關地址, 當主路由器無法接通時, 備用路由器就 會采用這個地址, 使LAN 通信得以繼續(xù)?總之, 當主要線路的性能必需提高而單條線路的升級又不可行時, 可以采用鏈路聚合技術?

◆負載均衡層次7：帶均衡策略的服務器群集

如今, 服務器必須具備提供大量并發(fā)訪問服務的能力, 其處理能力和I/O能力已經(jīng)成為提供服務的瓶頸?如果客戶的增多導致通信 量超出了服務器能承受的范圍, 那么其結果必然是——宕機?顯然, 單臺服務器有限的性能不可能解決這個問題, 一臺普通服務器的 處理能力只能達到每秒幾萬個到幾十萬個請求, 無法在一秒鐘內處理上百萬個甚至更多的請求?但若能將10臺這樣的服務器組成一個 系統(tǒng), 并通過軟件技術將所有請求平均分配給所有服務器, 那么這個系統(tǒng)就完全擁有每秒鐘處理幾百萬個甚至更多請求的能力?這就 是利用服務器群集實現(xiàn)負載均衡的最初基本設計思想? 早期的服務器群集通常以光纖鏡像卡進行主從方式備份?令服務運營商頭疼的是關鍵性服務器或應用較多?數(shù)據(jù)流量較大的服務 器一般檔次不會太低, 而服務運營商花了兩臺服務器的錢卻常常只得到一臺服務器的性能?通過地址轉換將多臺服務器網(wǎng)卡的不同IP 地址翻譯成一個VIP(Virtual IP)地址, 使得每臺服務器均時時處于工作狀態(tài)?原來需要用小型機來完成的工作改由多臺PC 服務器完成, 這種彈性解決方案對投資保護的作用是相當明顯的——既避免了小型機剛性升級所帶來的巨大設備投資,

又避免了人員培訓的重復投 資?同時, 服務運營商可以依據(jù)業(yè)務的需要隨時調整服務器的數(shù)量?

網(wǎng)絡負載均衡提高了諸如Web 服務器?FTP 服務器和其他關鍵任務服務器上的因特網(wǎng)服務器程序的可用性和可伸縮性?單一計算 機可以提供有限級別的服務器可靠性和可伸縮性?但是, 通過將兩個或兩個以上高級服務器的主機連成群集, 網(wǎng)絡負載均衡就能夠提 供關鍵任務服務器所需的可靠性和性能?

為了建立一個高負載的Web 站點, 必須使用多服務器的分布式結構?上面提到的使用代理服務器和Web 服務器相結合, 或者兩臺 Web服務器相互協(xié)作的方式也屬于多服務器的結構, 但在這些多服務器的結構中, 每臺服務器所起到的作用是不同的, 屬于非對稱的 體系結構?非對稱的服務器結構中每個服務器起到的作用是不同的, 例如一臺服務器用于提供靜態(tài)網(wǎng)頁, 而另一臺用于提供動態(tài)網(wǎng)頁 等等?這樣就使得網(wǎng)頁設計時就需要考慮不同服務器之間的關系, 一旦要改變服務器之間的關系, 就會使得某些網(wǎng)頁出現(xiàn)連接錯誤, 不利于維護, 可擴展性也較差?

能進行負載均衡的網(wǎng)絡設計結構為對稱結構, 在對稱結構中每臺服務器都具備等價的地位, 都可以單獨對外提供服務而無須其他 服務器的輔助?然后, 可以通過某種技術, 將外部發(fā)送來的請求均勻分配到對稱結構中的每臺服務器上, 接收到連接請求的服務器都 獨立回應客戶的請求?在這種結構中, 由于建立內容完全一致的Web 服務器并不困難, 因此負載均衡技術就成為建立一個高負載Web 站點的關鍵性技術? 總之, 負載均衡是一種策略, 它能讓多臺服務器或多條鏈路共同承擔一些繁重的計算或I/O任務, 從而以較低成本消除網(wǎng)絡瓶頸, 提高網(wǎng)絡的靈活性和可靠性?