隨著AI計(jì)算逐漸蠶食通用計(jì)算的份額，數(shù)據(jù)中心的硬件市場(chǎng)已經(jīng)開(kāi)始出現(xiàn)了微妙的變化。最搶手的目前已經(jīng)成了GPU，反觀(guān)CPU、ASIC和FPGA等硬件，開(kāi)始成為陪襯。但高昂的售價(jià)以及強(qiáng)綁定的供應(yīng)關(guān)系，還是讓不少企業(yè)開(kāi)始探索別的出路。
仍在被瘋搶的GPU
在今年第一季度AI熱潮高漲下，全球已經(jīng)開(kāi)啟了一波GPU搶購(gòu)。無(wú)論是借助GPU開(kāi)發(fā)各自大模型應(yīng)用的互聯(lián)網(wǎng)廠(chǎng)商，還是想借此發(fā)展其AI服務(wù)器業(yè)務(wù)的云服務(wù)廠(chǎng)商，都在搶購(gòu)英偉達(dá)目前主推的A100和H100兩大GPU。
就連臺(tái)積電哪怕第一季度業(yè)績(jī)下滑明顯，其CEO魏哲家在法說(shuō)會(huì)上也表示在A(yíng)I相關(guān)的需求上觀(guān)察到了增量上行，將幫助其在今年實(shí)現(xiàn)可觀(guān)的庫(kù)存消化。
在美國(guó)商務(wù)部半導(dǎo)體出口新規(guī)剛推出不久，A100在非正常渠道的單價(jià)就飆升至20000美元，是原價(jià)的兩倍左右。為此英偉達(dá)僅僅面向中國(guó)市場(chǎng)推出了A800和H800，只不過(guò)將高速互聯(lián)總線(xiàn)NVLink限制在了400GB/s，但好歹仍足以滿(mǎn)足大部分AI計(jì)算的需求。
可好景不長(zhǎng)，隨著緊缺和搶購(gòu)的趨勢(shì)很快蔓延到了A800和H800上，據(jù)了解，國(guó)內(nèi)市場(chǎng)的A800單價(jià)一周上漲了30%，從原來(lái)9萬(wàn)元上升至13萬(wàn)元，甚至連帶使得搭載該卡的服務(wù)器現(xiàn)貨同樣漲價(jià)，頗有當(dāng)年礦潮期顯卡漲價(jià)整機(jī)一并漲價(jià)的趨勢(shì)。
使其狀況更加惡化的是，英偉達(dá)據(jù)傳大量削減了A800的芯片供應(yīng)，而是轉(zhuǎn)為推廣更高端也更昂貴的H800，單價(jià)在25萬(wàn)元左右。高端的GPU無(wú)疑能夠帶來(lái)更高的性能，但性?xún)r(jià)比相對(duì)較低，大規(guī)模部署的成本也會(huì)更加難以承受。所以從全球市場(chǎng)的購(gòu)買(mǎi)表現(xiàn)上來(lái)看，互聯(lián)網(wǎng)公司和云服務(wù)廠(chǎng)商顯然覺(jué)得A100或A800更香一點(diǎn)。
可為了更高的利潤(rùn)轉(zhuǎn)化，英偉達(dá)決心調(diào)整A800和H800的供應(yīng)比例的話(huà)，也就說(shuō)得過(guò)去了。A100的市場(chǎng)流通率較高，而A800這種面世不久的特供產(chǎn)品，也更方便在供應(yīng)上加以限制。
省時(shí)和省錢(qián)
既然GPU困人已久，為何不打破這一限制，轉(zhuǎn)用大規(guī)模量產(chǎn)成本更低的ASIC芯片產(chǎn)品呢？事實(shí)上，很多廠(chǎng)商早就有類(lèi)似的心思，只不過(guò)執(zhí)行起來(lái)卻是寸步難行。首先對(duì)于大模型這樣的AI應(yīng)用來(lái)說(shuō)，硬件性能只是一個(gè)方面，擁有優(yōu)質(zhì)的軟件生態(tài)也很重要。
英偉達(dá)的CUDA成了任何進(jìn)軍AI產(chǎn)業(yè)的公司在軟件生態(tài)上的一頭攔路虎，遲遲沒(méi)法突破。固然ASIC的方案可以省下不少硬件成本，但在軟件上仍有不小的障礙。初創(chuàng)公司ASIC硬件的軟件生態(tài)不成熟，巨頭自研的產(chǎn)品又難以與第三方開(kāi)發(fā)結(jié)合起來(lái)，或者說(shuō)能打造出爆品應(yīng)用的概率更低。
反觀(guān)CUDA，發(fā)展這么多年積累的各種library已經(jīng)逐漸趨于成熟，甚至在英偉達(dá)的GPU上優(yōu)化到了最佳狀態(tài)，開(kāi)發(fā)者只需要調(diào)用API即可實(shí)現(xiàn)所需的效果。這堵墻就連同為GPU廠(chǎng)商的AMD等競(jìng)爭(zhēng)對(duì)手都未能攻破，因?yàn)锳I時(shí)代下省時(shí)才能搶占先機(jī)，省錢(qián)是之后采取考慮的事。
話(huà)雖如此，相關(guān)的嘗試依舊沒(méi)有停止，諸如谷歌的TPU、亞馬遜的Trainium以及微軟最近在研究的Chiplet Cloud等等，都是廠(chǎng)商們對(duì)ASIC持續(xù)看好的表現(xiàn)?？梢钥闯?，讓互聯(lián)網(wǎng)企業(yè)，尤其是芯片設(shè)計(jì)能力欠缺的企業(yè)，去走ASIC這條路線(xiàn)是很難的。而托管了諸多第三方芯片設(shè)計(jì)平臺(tái)、大模型和AI計(jì)算負(fù)載的云服務(wù)廠(chǎng)商，有這個(gè)技術(shù)積累，也有實(shí)力組建或已組建達(dá)標(biāo)的芯片設(shè)計(jì)隊(duì)伍，最終做到省時(shí)又省錢(qián)。
寫(xiě)在最后
ASIC固然前景可觀(guān)，但目前廠(chǎng)商們?cè)谫?gòu)置GPU上花的錢(qián)多半是多于自研投入的，這也就是GPU作為通用計(jì)算硬件的future proofing性質(zhì)?？赡茉贕PT爆火的今年，這款A(yù)SIC提供了遠(yuǎn)超GPU的性能或成本優(yōu)勢(shì)，但未來(lái)保不齊會(huì)出現(xiàn)其他的爆品應(yīng)用。GPU可以很快調(diào)轉(zhuǎn)勢(shì)頭，但ASIC就可能會(huì)被淘汰。所以對(duì)這些公司來(lái)說(shuō)，無(wú)論是購(gòu)買(mǎi)A100還是A800，不僅是對(duì)現(xiàn)在的投資，也是對(duì)未來(lái)的投資。