對(duì)于速度的渴求是我們與生俱來(lái)的天性,在這個(gè)千兆入戶光纖開始普及,5G移動(dòng)網(wǎng)絡(luò)即將上線的時(shí)代,內(nèi)網(wǎng)千兆鏈路100MB/S左右的傳輸性能,對(duì)于NAS等網(wǎng)絡(luò)存儲(chǔ)設(shè)備的用戶而言已不能滿足日益膨脹的速度需求。 高端玩家們開始嘗試?yán)霉饫w內(nèi)網(wǎng)、萬(wàn)兆銅纜、InfiniBand等一些企業(yè)級(jí)的技術(shù)手段提升傳輸性能;但是對(duì)于大多數(shù)普通玩家而言,技術(shù)入門、配置摸索的學(xué)習(xí)成本就讓人頭痛;設(shè)備、和線路改造的資金投入更加無(wú)法接受。好在技術(shù)的升級(jí)往往會(huì)跨越設(shè)備的壁壘,今天我們就來(lái)聊聊微軟為我們帶來(lái)的福利,利用Windows 最新SMB3實(shí)現(xiàn)簡(jiǎn)單易用的多通道帶寬疊模式。 對(duì)于不想看詳細(xì)內(nèi)容,只關(guān)心使用方法的朋友,簡(jiǎn)單概括如下: 1、多通道帶寬疊無(wú)需任何專用設(shè)備支持,普通集成網(wǎng)卡、傻瓜交換機(jī)均可實(shí)現(xiàn),只要客戶機(jī)、服務(wù)器、交換機(jī)上的網(wǎng)口足夠就可以隨意疊加。 2、多通道帶寬疊基于軟件功能,無(wú)需任何專業(yè)設(shè)置,即插即用,方便穩(wěn)定。但是需要服務(wù)器和客戶機(jī)安裝Windows 8、Server 2012以上操作系統(tǒng),或者內(nèi)置固件支持此特性。
只要滿足以上兩方面,即可插上網(wǎng)線開始享受帶寬疊加帶來(lái)的高速快感。而對(duì)于想詳細(xì)了解這一功能與性能測(cè)試的朋友,請(qǐng)繼續(xù)看如下介紹和測(cè)試: 技術(shù)背景本文所分享的多通道帶寬疊功能均基于使用SMB3協(xié)議進(jìn)行的內(nèi)網(wǎng)數(shù)據(jù)傳輸,通俗的來(lái)說(shuō)就是Windows下通過(guò)共享的網(wǎng)絡(luò)驅(qū)動(dòng)器進(jìn)行的數(shù)據(jù)交換。對(duì)于FTP、NFS這些傳輸協(xié)議都是無(wú)效的。
基于SMB 3的多帶寬疊加早已不是什么新鮮的技術(shù)了,早在Windows 8發(fā)布之初與之配套的SMB3.0規(guī)范便已實(shí)現(xiàn),現(xiàn)在的Windows 10已經(jīng)更新到3.1.1;我在2015年便有分享相關(guān)經(jīng)驗(yàn)的想法,卻一直拖拖拉拉直到現(xiàn)在才總算完成。對(duì)于一直催我更新的值友們這里先說(shuō)聲抱歉了。。。。 目前基于傳統(tǒng)RJ45網(wǎng)絡(luò)接口+銅纜網(wǎng)線的有線網(wǎng)絡(luò)環(huán)境中,目前最常用的方法就是帶寬疊加,將多條獨(dú)立的千兆鏈接進(jìn)行聚合、疊加,以實(shí)現(xiàn)總帶寬的擴(kuò)容。目前常用的有鏈路聚合疊加(Link Aggregation Control Protocol)和SMB3多通道帶寬疊加(SMB 3 Multichannel)兩種方式,我們先看下他們之間的區(qū)別。 鏈路聚合疊加(Link Aggregation Control Protocol)
鏈路聚合最大的優(yōu)勢(shì)在于屬于硬件層面的端口聚合,不局限于某一種操作系統(tǒng)或者傳輸協(xié)議,這對(duì)于企業(yè)級(jí)較為復(fù)雜的網(wǎng)絡(luò)環(huán)境有著不可替代的作用。 在NAS產(chǎn)品大量涌現(xiàn)的當(dāng)下,鏈路聚合等相關(guān)技術(shù)為了眾多廠商的宣傳亮點(diǎn)之一。支持鏈路聚合的NAS產(chǎn)品都具備2個(gè)以上的LAN接口,按照廠家的宣傳,通過(guò)將網(wǎng)口聚合,可以達(dá)到2Gbps以上的傳輸帶寬。 從技術(shù)本質(zhì)上來(lái)說(shuō)廠家的描述沒有什么問題,只不過(guò)因?yàn)榇蠖鄶?shù)消費(fèi)者都并非精通網(wǎng)絡(luò)技術(shù),所以對(duì)于鏈路聚合產(chǎn)生了不切實(shí)際的幻想。 實(shí)際使用情況以下圖為例: 當(dāng)存儲(chǔ)服務(wù)器與交換機(jī)均支持LACP相關(guān)協(xié)議并完成設(shè)置后,兩者之間的網(wǎng)絡(luò)連接就實(shí)現(xiàn)了帶寬聚合。若服務(wù)器有兩個(gè)網(wǎng)口,則聚合后的總帶寬為2Gbps。兩臺(tái)客戶端使用千兆有線鏈路連接交換機(jī)同時(shí)存取服務(wù)器上的數(shù)據(jù)時(shí),兩者均可達(dá)到1Gbps的讀寫速度;此時(shí)服務(wù)器端網(wǎng)絡(luò)總吞吐帶寬也達(dá)到了2Gbps。 但是如果按照下圖,單客戶端加兩條千兆有線鏈路連接交換機(jī)存取服務(wù)器上的數(shù)據(jù),則有效傳輸帶寬依然為1Gpbs,無(wú)法利用疊加后的2Gpbs帶寬。 所以這里需要強(qiáng)調(diào),鏈路聚合是帶寬疊加技術(shù)的一種,但是他只對(duì)于交換機(jī)-交換機(jī)、交換機(jī)-服務(wù)器之間的鏈路進(jìn)行疊加,無(wú)法提升點(diǎn)對(duì)點(diǎn)的傳輸帶寬。 SMB3多通道帶寬疊加(SMB 3 Multichannel)多通道帶寬疊是SMB3規(guī)范眾多新功能中的一項(xiàng),以下圖為例: 假設(shè)服務(wù)器與客戶機(jī)均配有多網(wǎng)卡,如啟用SMB多通道模式,系統(tǒng)則會(huì)利多通道技術(shù),會(huì)對(duì)每個(gè)會(huì)話建立多個(gè)TCP/IP連接,這樣就可以充分提高整個(gè)鏈路的吞吐而實(shí)現(xiàn)物理帶寬的疊加。不過(guò)這種帶寬疊加僅僅支持使用SMB3規(guī)范的數(shù)據(jù)傳輸,對(duì)于其他數(shù)據(jù)傳輸協(xié)議均無(wú)效。 兩種技術(shù)之間的具體區(qū)別如下: 對(duì)于網(wǎng)絡(luò)系統(tǒng)規(guī)模較小、應(yīng)用較為單一的個(gè)人、家庭用戶而言,使用SMB3的多通道功能來(lái)提升內(nèi)網(wǎng)傳輸速度,無(wú)論在投入的設(shè)備成本、學(xué)習(xí)成本還是實(shí)際效果表現(xiàn)來(lái)看都遠(yuǎn)高于傳統(tǒng)的LACP鏈路聚合技術(shù)。唯一對(duì)于操作系統(tǒng)方面的限制在Windows10已經(jīng)廣泛普及的當(dāng)下也已不再是障礙。 硬件選購(gòu)實(shí)現(xiàn)SMB3規(guī)范下的多通道帶寬疊加功能是不需要添加任何專用設(shè)備的,不過(guò)為了實(shí)現(xiàn)帶寬疊加就需要更多的網(wǎng)口來(lái)接通更多的傳輸鏈路,所以假如這方面硬件規(guī)格不足的朋友還是需要增加一些基礎(chǔ)設(shè)備的。 網(wǎng)卡對(duì)于帶寬要求不高,且服務(wù)器和客戶機(jī)上已經(jīng)集成雙網(wǎng)卡的用戶,其實(shí)并不需要在單獨(dú)采購(gòu)網(wǎng)卡。對(duì)于像我一樣希望使用更高帶寬的用戶可能需要再選購(gòu)一塊多端口網(wǎng)卡 正規(guī)渠道的多端口千兆網(wǎng)卡價(jià)格都很貴。淘寶上有拆機(jī)的二手網(wǎng)卡,價(jià)格低廉,但存在假貨的風(fēng)險(xiǎn),所以建議了解清楚情況后再下手。我最終通過(guò)HP代理購(gòu)入了2塊NC364T 四端口千兆網(wǎng)卡。 交換機(jī)我選用NETGEAR GS316 16口千兆交換機(jī),非網(wǎng)關(guān)傻瓜交換機(jī),做工優(yōu)良,價(jià)格便宜。假如對(duì)于帶寬要求不朋友也可以使用更加實(shí)惠的8口交換機(jī),甚至路由器附帶的LAN接口。 NETGEAR GS316采用網(wǎng)口平鋪布局,體型扁平且小巧,便于在我狹小的書房中安裝與布線;而16個(gè)千兆接口也讓我足夠使用盡情折騰。 功能配置實(shí)現(xiàn)SMB3的多通道功能非常簡(jiǎn)單,只需滿足以下條件即可 1、服務(wù)器與客戶端基于Windows8以上操作系統(tǒng),或者支持SMB 3; 不同Windows系統(tǒng)組合之間所能夠支持的最高的SMB版本 2、服務(wù)器和客戶端的所有網(wǎng)線都在同一網(wǎng)關(guān)下的內(nèi)網(wǎng)中,最好都接于同一臺(tái)服務(wù)器。 當(dāng)以上條件條件都滿足,且兩者間存在一條以上網(wǎng)絡(luò)鏈接,便可自動(dòng)實(shí)現(xiàn)帶寬疊加功能,無(wú)需進(jìn)行任何相關(guān)系統(tǒng)參數(shù)配置。 實(shí)際使用時(shí)由于存在多個(gè)網(wǎng)絡(luò)端口,服務(wù)器和客戶機(jī)會(huì)存在多個(gè)IP地址,但用戶無(wú)需考慮這些,直接使用服務(wù)器主機(jī)名或者服務(wù)器任意IP地址進(jìn)行文件瀏覽和數(shù)據(jù)傳輸,都可享受多通道功能帶來(lái)的網(wǎng)速疊加體驗(yàn)。 性能測(cè)試測(cè)試環(huán)境服務(wù)器與客戶端相關(guān)硬件規(guī)格 服務(wù)器我使用主板集成網(wǎng)卡和PCI-E 4端口千兆網(wǎng)卡建立了達(dá)到6Gbps的疊加帶寬,主客戶機(jī)則一共使用了5個(gè)千兆網(wǎng)口,總疊加帶寬為5Gbps。 服務(wù)器與客戶端所用硬盤測(cè)試性能如下: 客戶機(jī)所用三星 SM951 256G硬盤因?yàn)槭褂肕.2接口使用NVME接口規(guī)范,所以讀寫速度對(duì)于網(wǎng)絡(luò)傳輸負(fù)載來(lái)說(shuō)不存在任何瓶頸。 服務(wù)器所用的Sandisk Extreme II 480G屬于較早期產(chǎn)品,所以速度不及支持NVME規(guī)范的產(chǎn)品,實(shí)際讀取551MB/S、寫入427MB/S對(duì)于高帶寬疊加還是存在一定瓶頸,尤其是寫入性能。 雙鏈路帶寬疊加首先測(cè)試一下雙鏈路下的帶寬疊加,此狀態(tài)下服務(wù)器與客戶機(jī)只需具備雙網(wǎng)口即可實(shí)現(xiàn)。這對(duì)于很多用戶來(lái)說(shuō)這是最容易實(shí)現(xiàn)也最為有效的提速方式。 雙路網(wǎng)絡(luò)鏈接總帶寬2Gpbs,理論傳輸速度為256MB/S??蛻魴C(jī)通過(guò)SMB協(xié)議復(fù)制服務(wù)器中的數(shù)據(jù)時(shí),點(diǎn)對(duì)點(diǎn)的實(shí)際傳輸帶寬輕松突破220MB/S傳輸速度。因?yàn)閭鬏斔俣染趦啥薙SD硬盤的讀寫性能范圍之內(nèi),所以傳輸曲線相當(dāng)平滑,兩條千兆鏈路均處于滿負(fù)荷吞吐狀態(tài)。 三鏈路帶寬疊加:服務(wù)器與客戶機(jī)之間增加一條千兆有線鏈路,理論帶寬為3Gbps。 實(shí)際傳輸速度338MB/S,曲線平穩(wěn),三條千兆鏈路依然處于滿負(fù)荷吞吐狀態(tài)。可以看出似乎只要在兩端硬盤讀寫性能之內(nèi),疊加的帶寬就可以全力釋放出接近與理論帶寬的傳輸性能。 五鏈路帶寬疊加:接下來(lái)我不打算依次增加鏈路數(shù)量,直接將我客戶機(jī)與服務(wù)器上網(wǎng)絡(luò)端口全部開啟,共計(jì)5條千兆鏈路實(shí)現(xiàn)了5Gbps的理論數(shù)據(jù)帶寬,數(shù)據(jù)帶寬已經(jīng)達(dá)到服務(wù)器上SSD硬盤讀寫性能極限;而此時(shí)網(wǎng)絡(luò)端口的占用也達(dá)到了10個(gè),所以這種模式作為極限狀態(tài)測(cè)試。我詳細(xì)測(cè)試客戶機(jī)從服務(wù)器讀取數(shù)據(jù)和客戶機(jī)向服務(wù)器寫入數(shù)據(jù)兩種傳輸模式下的性能表現(xiàn)。 服務(wù)器向客戶端傳輸數(shù)據(jù),此時(shí)服務(wù)器端硬盤為讀取狀態(tài),客戶端硬盤為寫入狀態(tài)。 此時(shí)網(wǎng)絡(luò)傳輸帶寬與服務(wù)器端的SSD的讀取性能基本相當(dāng),傳輸曲線變不如前兩次測(cè)試那樣平滑了,不過(guò)平均速度依然維持在480MB/S的水平,這對(duì)于網(wǎng)絡(luò)傳輸算是相當(dāng)可觀的性能了。 客戶端向服務(wù)器傳輸數(shù)據(jù),此時(shí)服務(wù)器端硬盤為寫入狀態(tài),客戶端硬盤為讀取狀態(tài)。 網(wǎng)絡(luò)傳輸性能超過(guò)服務(wù)器SSD的寫入性能,傳輸曲線出現(xiàn)比較劇烈的波動(dòng),這應(yīng)該是SSD主控芯片滿負(fù)荷運(yùn)行時(shí)產(chǎn)生的。最終平均傳輸速度穩(wěn)定為410MB/S,這也與之前測(cè)試的數(shù)據(jù)基本吻合。 而且通過(guò)這次測(cè)試還可以看出,當(dāng)總體傳輸出現(xiàn)波動(dòng)時(shí),每塊網(wǎng)卡同樣隨之波動(dòng),而且5快網(wǎng)卡的大致波形基本吻合,這也印證了SMB3網(wǎng)絡(luò)多條通道中的負(fù)載均衡功能發(fā)揮了作用。 功能體驗(yàn)鏈路冗余首先以5條千兆鏈路同時(shí)工作開始數(shù)據(jù)傳輸,初始傳輸速度約480MB/S,然后我開始依次拔掉交換機(jī)上的網(wǎng)線接口,以模擬網(wǎng)絡(luò)出現(xiàn)故障時(shí)的狀態(tài),最終我只保留一條網(wǎng)線來(lái)保持連接。然后我再依此插回網(wǎng)線,繼續(xù)模擬網(wǎng)絡(luò)恢復(fù)。最終完成測(cè)試后的數(shù)據(jù)傳輸曲線如下: 可以看出當(dāng)進(jìn)行帶寬疊加的端口組中,如果有一個(gè)或幾個(gè)帶寬出現(xiàn)故障時(shí),系統(tǒng)會(huì)自動(dòng)將剩余端口繼續(xù)傳輸數(shù)據(jù);而當(dāng)網(wǎng)絡(luò)恢復(fù)后系統(tǒng)也會(huì)立即將其加入到正在進(jìn)行的數(shù)據(jù)傳輸中。整體都是動(dòng)態(tài)進(jìn)行調(diào)整的,一部分端口的故障或者恢復(fù)均不會(huì)影響整體數(shù)據(jù)傳輸?shù)倪B貫性。 同時(shí)我們可以看出,每次端口增加或者減少后,整體的傳輸曲線只會(huì)成臺(tái)階狀的整體上升、下降,并不會(huì)出現(xiàn)劇烈的波動(dòng),這也可以驗(yàn)證出在單客戶端傳輸環(huán)境下,負(fù)載均衡機(jī)制很好的發(fā)揮了作用,使網(wǎng)絡(luò)傳輸更加穩(wěn)定。 多客戶端負(fù)載均衡我找了兩臺(tái)客戶端來(lái)進(jìn)行測(cè)試,一臺(tái)配備了5個(gè)千兆網(wǎng)絡(luò)接口,與服務(wù)器實(shí)現(xiàn)5鏈路聚合;而另一臺(tái)僅適用單千兆網(wǎng)口與服務(wù)器相連。兩臺(tái)客戶端同時(shí)與服務(wù)器進(jìn)行數(shù)據(jù)傳輸時(shí),實(shí)際效果如下: 首先服務(wù)器優(yōu)先滿足了低帶寬客戶端的帶寬需求,使之滿速運(yùn)行,最終傳輸速度穩(wěn)定在113MB/S的千兆網(wǎng)絡(luò)傳輸極限速度。 然后再將剩余4個(gè)網(wǎng)絡(luò)端口進(jìn)行聚合,向高帶寬客戶端傳輸數(shù)據(jù)。由于受到服務(wù)器硬盤讀取性能限制,最終傳輸速度穩(wěn)定在343MB/S。 而當(dāng)?shù)蛶捒蛻舳私Y(jié)束數(shù)據(jù)傳輸后,高帶寬客戶端也隨即恢復(fù)了滿負(fù)荷傳輸狀態(tài)。 使用感受穩(wěn)定性基于SMB3規(guī)范的帶寬疊加,無(wú)需專用設(shè)備;無(wú)需繁雜的系統(tǒng)設(shè)置,搭建的成本相當(dāng)?shù)土@得的效果也非常出眾。 除了點(diǎn)對(duì)點(diǎn)完美實(shí)現(xiàn)了多寬帶傳輸速度疊加之外,原先基于端口匯聚的線路冗余、負(fù)載均衡都功能也一應(yīng)俱全。對(duì)于小規(guī)模網(wǎng)絡(luò)使用的個(gè)人用戶基本可以舍棄技術(shù)和裝備門檻都高很多的端口匯聚了。 實(shí)際使用效果也非常穩(wěn)定可靠,只要網(wǎng)絡(luò)設(shè)備穩(wěn)定,存儲(chǔ)系統(tǒng)性能達(dá)標(biāo),就可以獲得持續(xù)穩(wěn)定的高速鏈接。我在使用的3年時(shí)間里從未出現(xiàn)過(guò)失效或者不穩(wěn)定情況。 可用性這項(xiàng)應(yīng)用,使用雙千兆帶寬疊加模式是收益最大、性價(jià)比最高的使用模式 對(duì)于狂熱追求高速的玩家來(lái)說(shuō) 3寬帶以上的網(wǎng)速疊加,可以最大程度上發(fā)揮和利用NAS設(shè)備上高端SSD倉(cāng)庫(kù)盤的讀寫速度。這對(duì)于SSD的基本性能也提出了更高的要求,對(duì)于大多數(shù)中低端大容量SSD,雖然標(biāo)稱性能都很可觀,測(cè)試成績(jī)也很優(yōu)秀,但是這些很可能只是基于容量有限的緩存的成績(jī),而實(shí)際在進(jìn)行大塊數(shù)據(jù)讀寫存儲(chǔ)時(shí)往往就會(huì)出現(xiàn)如下圖的傳輸曲線。 所以在實(shí)際使用前一定要區(qū)分清楚廠家標(biāo)稱的讀寫速度是持續(xù)是所謂的“緩存讀寫速度”還是真實(shí)的“持續(xù)讀寫速度” 對(duì)于追求性價(jià)比的普通用戶 一臺(tái)傻瓜型的八口交換機(jī)就可以負(fù)擔(dān)兩臺(tái)客戶端與一臺(tái)服務(wù)器的鏈接,對(duì)于設(shè)備上已經(jīng)集成雙網(wǎng)口的用戶來(lái)說(shuō),基于SMB3.規(guī)范的帶寬疊加可以說(shuō)是白送的福利,而且就算增加一塊千兆網(wǎng)卡花費(fèi)也相當(dāng)?shù)土?/p> 對(duì)于使用普通大容量HDD的存儲(chǔ)系統(tǒng)的用戶來(lái)說(shuō),得益于單盤容量的不斷增大,平均讀寫速度也早已不再局限于100MB/S的性能水平了。以我目前正在使用的希捷酷狼 8T HDD為例,讀、寫的最低速度都已經(jīng)超過(guò)100MB/S,平均速度達(dá)到了180MB/S,在這樣的性能下使用雙千兆帶寬疊加,可以說(shuō)是胃腸有效的性能提升手段 實(shí)際測(cè)試性能如下,140MB/S的傳輸速度已經(jīng)超過(guò)單千兆網(wǎng)卡的帶寬限制。 而且因?yàn)闄C(jī)械磁盤存儲(chǔ)載體為旋轉(zhuǎn)的圓形磁碟,所以雖然硬盤的轉(zhuǎn)速恒定,但是隨著磁頭從碟片的外圈向內(nèi)心移動(dòng)就會(huì)持續(xù)降低線速度,因此磁盤外圈的傳輸率最高;內(nèi)圈則傳輸率最低。所以實(shí)際傳輸速度與數(shù)據(jù)存儲(chǔ)的扇區(qū)位置有很大的關(guān)系,對(duì)于存儲(chǔ)在靠近外圈的數(shù)據(jù)理論上還可以獲得更高的傳輸速度。 實(shí)用性對(duì)于我現(xiàn)在所用的5千兆帶寬疊加,其實(shí)屬于性能嚴(yán)重過(guò)剩的浪費(fèi)模式,因?yàn)樵谝话愎ぷ骱图矣铆h(huán)境中很少有軟件需要如此大的網(wǎng)絡(luò)傳輸帶寬,而我現(xiàn)在唯一能夠受益的也只有大容量視頻渲染后的存出輸出。 所以這種模式更多的只是對(duì)于極限性能的追求和發(fā)燒的折騰,一般用戶完全無(wú)需照搬使用。但是由于實(shí)現(xiàn)起來(lái)非常方便,這也可以看作一種技術(shù)的儲(chǔ)備,日后如有用武之地便可立即投入使用。 |
|