什么技術(shù)能徹底解放CPU？

張問驊 2022-10-20 發(fā)布于甘肅

展開全文

一項新的IT技術(shù)，能夠給用戶帶來翻天覆地的變化么？

答案當(dāng)然是肯定的，因為在數(shù)字化主導(dǎo)的世界里，一切皆有可能！

“用780臺裝有NVIDIA BlueField DPU的服務(wù)器，替換掉1000臺安裝有標(biāo)準(zhǔn)智能網(wǎng)卡的服務(wù)器。由此，每臺服務(wù)器TCO可節(jié)省8200美元，3年內(nèi)通過提升效率可節(jié)省180萬美元?！边@一數(shù)字足以讓云服務(wù)商、互聯(lián)網(wǎng)及企業(yè)級用戶垂涎欲滴，這就是DPU所帶來的革命。

DPU，因需而生

NVIDIA網(wǎng)絡(luò)市場總監(jiān)孟慶表示，當(dāng)前，數(shù)據(jù)中心的流量正呈爆發(fā)式增長，人工智能、推理訓(xùn)練，包括一些企業(yè)用它做更復(fù)雜的通用計算，這就產(chǎn)生了非常多的數(shù)據(jù)流量。而數(shù)據(jù)中心也在逐漸變成人工智能中心，各種復(fù)雜的圖形識別、語義分析、推薦購物等等全部將數(shù)據(jù)導(dǎo)流到后臺，通過數(shù)據(jù)中心來計算、推演。

舉例而言，用戶打開一個手機上的APP，然后幾秒后關(guān)閉。從表面來看，似乎“我什么也沒做。”但實際上呢？激活A(yù)PP后會同步誕生多個容器，瞬間打開和關(guān)閉后，會給數(shù)據(jù)中心后臺造成一個突發(fā)性小峰值。如果同一時段很多用戶同時進行類似操作，后臺數(shù)據(jù)中心的負荷會急速飆升。這還僅僅是APP端最簡單操作而已，如果眾多用戶同時完成訂單再增加支付、配送信息等，勢必會帶來數(shù)據(jù)傳輸?shù)暮?yīng)。

仔細觀察就會發(fā)現(xiàn)，現(xiàn)在很多CPU的資源都用在了數(shù)據(jù)搬運、流量分發(fā)的過程中，其實原本寶貴的CPU資源，大可不必如此“忙碌于數(shù)據(jù)傳輸”。

DPU（數(shù)據(jù)處理器）就是為此而生，就像當(dāng)年的GPU一樣，DPU從CPU手中將數(shù)據(jù)傳輸?shù)墓ぷ鹘庸苓^來，讓后者更專注于計算。正如前文介紹的那組數(shù)據(jù)一樣，DPU的到來為企業(yè)節(jié)省了大量成本，同時提高了工作效率。

最先部署DPU的是云服務(wù)商及互聯(lián)網(wǎng)企業(yè)，包括BAT、京東、頭條、微軟等公司，他們每日面臨著大量的數(shù)據(jù)需要處理，而DPU則帶來了顛覆性的創(chuàng)新，在提升數(shù)據(jù)傳輸效率的同時，又解決了數(shù)據(jù)隔離、加解密等安全性問題。

DPU解決數(shù)據(jù)中心四大挑戰(zhàn)

在NVIDIA看來，當(dāng)前數(shù)據(jù)中心主要面臨四大挑戰(zhàn)，包括：人工智能、科學(xué)計算、應(yīng)用復(fù)雜工作負載所帶來的海量數(shù)據(jù)挑戰(zhàn)；用戶需求量明顯上升，帶來的分布式微服務(wù)挑戰(zhàn)；CPU性能增長放緩，計算資源緊缺；應(yīng)用程序流量不斷增加，面臨更大的安全威脅。

據(jù)NVIDIA網(wǎng)絡(luò)技術(shù)專家崔巖介紹，基于以上四大挑戰(zhàn)，NVIDIA與VMware展開了緊密合作，并在VMware的軟件架構(gòu)基礎(chǔ)上重構(gòu)了虛擬基礎(chǔ)設(shè)施，Project Monterey平臺應(yīng)運而生。

Project Monterey在硬件方面依托于NVIDIA最新的NVIDIA BlueField DPU，融合vSphere 8企業(yè)工作負載平臺?？梢栽诖鳡朠ower Edge服務(wù)器或VxRail超融合架構(gòu)一體機上運行，這樣就能有效的把NVIDIA BlueField DPU、GPU和NVIDIA Enterprise AI軟件，在vSphere 8平臺上做負載優(yōu)化，并由此構(gòu)建起面向未來AI和現(xiàn)代應(yīng)用程序工作負載的現(xiàn)代化數(shù)據(jù)中心。

在VMware Hypervisor虛擬化管理軟件系統(tǒng)中，把vSphere中網(wǎng)絡(luò)、安全、存儲、主機管理等服務(wù)，卸載到NVIDIA BlueField DPU之上，全方位地解放CPU。NVIDIA BlueField DPU的介入會在主機CPU和DPU之間形成一個隔離層，通過它來保障主機內(nèi)部的安全性。

上層應(yīng)用程序即使被黑客攻擊時，也不會通過隔離層攻擊到其他的服務(wù)器。所以，在多租戶、多虛機環(huán)境下DPU系統(tǒng)可以提供更優(yōu)的安全性。

當(dāng)采用了NVIDIA BlueField DPU之后，上述四大功能就可以卸載到DPU，此時CPU會騰退出更多資源來支撐客戶業(yè)務(wù)應(yīng)用，包括支持更多虛擬機和容器。

安全方面，NSX下一代防火墻已經(jīng)卸載到DPU之上，后續(xù)的入侵檢測、入侵防御等安全策略功能也會逐漸在DPU上實現(xiàn)，這將和VMware整個多云架構(gòu)、企業(yè)應(yīng)用有更加緊密的融合，從而讓企業(yè)級用戶享受到來自NVIDIA BlueField DPU的回報。

實戰(zhàn)：完全釋放CPU資源

那么，DPU在實戰(zhàn)過程中，真的有那么強嗎？

我們來看一組測試數(shù)據(jù)，據(jù)崔巖介紹，基于VMware運行NGINX Web服務(wù)器的應(yīng)用，傳統(tǒng)用標(biāo)準(zhǔn)智能網(wǎng)卡和CPU的組合下，需要有8個CPU內(nèi)核管理跟運營基礎(chǔ)設(shè)施的相關(guān)操作。這對于整個數(shù)據(jù)中心而言，是個不小的負載。

當(dāng)采用了DPU之后，這8個CPU內(nèi)核完全被釋放了。也就是不需要CPU的任何介入，DPU就可以直接實現(xiàn)這些基礎(chǔ)設(shè)施管理及加速。

第二項測試是Redis內(nèi)存鍵值存儲，非SQL數(shù)據(jù)庫的基準(zhǔn)測試?；趥鹘y(tǒng)架構(gòu)的64核心系統(tǒng)中，需要12個CPU內(nèi)核介入才能完成測試，此時的性能為8.8百萬交易/秒。同樣的系統(tǒng)基于DPU構(gòu)建時，CPU負載為0，也就是解放了12顆核心，并且性能實現(xiàn)了加速，達到12百萬交易/秒。

相當(dāng)于釋放了20%的CPU核心，并在不占用任何CPU資源的情況下將性能提升了36%。對客戶而言既節(jié)省了硬件資源消耗，又得到了性能提升，并有效降低了TCO。

DPU助力超算降低延遲

孟慶表示：在GTC上，黃仁勛先生曾經(jīng)展示過一張圖片：是由一個CPU、DPU和GPU組成的三角形，意味著它們對于NVIDIA同樣重要，并且3U一體也是未來的發(fā)展趨勢。

以當(dāng)前廣受關(guān)注的云原生超級計算為例，簡單地說沒有DPU做不出云原生超級計算機。因為超級計算機里，如果不用DPU把任務(wù)調(diào)度、數(shù)據(jù)區(qū)隔、排序、預(yù)處理做好，就會出現(xiàn)延時和等待問題，很難構(gòu)建起百億億次以上的超算。同時，在云端提交超算任務(wù)后也將面臨延遲等待之類的難題，高延遲同樣會浪費大量的計算時間。

第一代NVIDIA BlueField DPU解決了應(yīng)用適配問題，到現(xiàn)在，DOCA開發(fā)環(huán)境出來以后，很多場景、接口被標(biāo)準(zhǔn)化地放在DOCA里。而使用者僅需調(diào)用一個參數(shù)即可完成一項功能，包括IPsec加解密、數(shù)據(jù)區(qū)隔及基于DPU的預(yù)處理排序等工作。

與市場中的很多方案不同，NVIDIABlueField DPU執(zhí)行程序是基于ARM處理器的。隨著技術(shù)的不斷發(fā)展，它的性能越來越強，核心數(shù)量也越來越多，但程序始終不變，未來也不會出現(xiàn)適配性等方面問題。NVIDIA還將不斷賦予它們新的功能，使其在保證技術(shù)延續(xù)性的同時不斷提升自身價值。

黑客松推動DPU快速發(fā)展

為了更好地推動DPU市場及軟件開發(fā)，NVIDIA還將繼續(xù)組織2022年秋季DPU中國黑客松競賽。

大賽包括NVIDIA BlueField DPU和NVIDIA DOCA軟件開發(fā)套件的介紹和用例展示，及更深入的開發(fā)環(huán)境和開發(fā)方式介紹，并有應(yīng)用案例展示。讓開發(fā)者更容易理解DOCA的開發(fā)步驟、用例及運行方式。此外，還有開發(fā)者的技術(shù)答疑環(huán)節(jié)。

本次DPU中國黑客松競賽，其中一個課題是需要開發(fā)者使用NVIDIA BlueField DPU和NVIDIA DOCA軟件框架實現(xiàn)RDMA加速的存儲與AI解決方案。這是基于InfiniBand上實現(xiàn)的RDMA技術(shù)，能夠很容易的通過NVIDIA BlueField DPU去訪問CPU和GPU的內(nèi)存，而不需要CPU和操作系統(tǒng)的干預(yù)。這些突破會大大提高整個數(shù)據(jù)移動的效率，能夠更好的支撐未來科學(xué)計算、人工智能、機器學(xué)習(xí)需要大規(guī)模數(shù)據(jù)搬運和計算的工作負載。

此次NVIDIA也會邀請5位本地評委，從基礎(chǔ)架構(gòu)、軟件開發(fā)、行業(yè)應(yīng)用角度來考驗這些開發(fā)團隊所做的項目和呈現(xiàn)的結(jié)果。整個結(jié)果最后會提交給國際評委，他們從題目匹配度、演示效果、項目價值、項目完成度及訓(xùn)練營參與度，共5大維度做評分，最后還有現(xiàn)場演示環(huán)節(jié)。

NVIDIA BlueField DPU的問世給數(shù)據(jù)中心帶來了新的革命，它為苦不堪言的CPU卸載下了繁重的數(shù)據(jù)傳輸任務(wù)，并以己之長補其之短。

創(chuàng)新、數(shù)字化轉(zhuǎn)型、碳排放、智能制造是當(dāng)前的熱門話題，而企業(yè)級用戶亟需來自IT技術(shù)的創(chuàng)新，幫助自己實現(xiàn)高質(zhì)量轉(zhuǎn)型，從而適應(yīng)未來發(fā)展。我們看到，像DPU這樣的顛覆性技術(shù)正在快速演進，逐步滲透至大型數(shù)據(jù)中心、企業(yè)級服務(wù)器及超融合一體機中，幫助用戶解決來自成本、效率方面的難題。