注:華為將在4月8日上午11:00,發(fā)表《盤(pán)古大模型的進(jìn)展及其應(yīng)用》的專(zhuān)題演講,主講人是田奇(華為云人工智能首席科學(xué)家),內(nèi)容非常有看點(diǎn)。觀看地址見(jiàn)文后(或置頂評(píng)論)。 首先要跟大家說(shuō)明的是,華為盤(pán)古AI大模型是一個(gè)系列,并不是只有一個(gè)!根據(jù)華為云官方資料,盤(pán)古系列大模型包括以下五個(gè)基礎(chǔ)大模型(L0): 中文語(yǔ)言(NLP)大模型 視覺(jué)(CV)大模型 多模態(tài)大模型 科學(xué)計(jì)算大模型 圖網(wǎng)絡(luò)(Graph)大模型 盤(pán)古大模型的結(jié)構(gòu)圖 中文語(yǔ)言(NLP)大模型,是業(yè)界首個(gè)超千億參數(shù)的中文預(yù)訓(xùn)練大模型,被認(rèn)為是最接近人類(lèi)中文理解能力的AI大模型。與ChatGPT等外國(guó)AI模型相比,華為盤(pán)古大模型更注重針對(duì)中文語(yǔ)言的優(yōu)化。其首次使用Encoder-Decoder架構(gòu),兼顧NLP理解與生成的能力。在預(yù)訓(xùn)練階段學(xué)習(xí)了超40TB文本數(shù)據(jù),并通過(guò)行業(yè)數(shù)據(jù)的小樣本調(diào)優(yōu),提升模型在場(chǎng)景中的應(yīng)用性能。在權(quán)威的中文語(yǔ)言理解評(píng)測(cè)基準(zhǔn)CLUE榜單中,盤(pán)古NLP大模型在總排行榜及分類(lèi)、閱讀理解單項(xiàng)均排名第一,刷新三項(xiàng)榜單世界歷史紀(jì)錄;總排行榜得分83.046(人類(lèi)水平是85.61分),多項(xiàng)子任務(wù)得分業(yè)界領(lǐng)先。 視覺(jué)(CV)大模型,是超過(guò)30億參數(shù)的業(yè)界最大CV大模型,首次實(shí)現(xiàn)模型按需抽取,首次實(shí)現(xiàn)兼顧判別與生成能力。它可以基于模型大小和運(yùn)行速度需求,自適應(yīng)抽取不同規(guī)模模型,AI應(yīng)用開(kāi)發(fā)快速落地,使AI開(kāi)發(fā)進(jìn)入工業(yè)化模式,。使用層次化語(yǔ)義對(duì)齊和語(yǔ)義調(diào)整算法,在淺層特征上獲得了更好的可分離性,使小樣本學(xué)習(xí)的能力獲得了顯著提升,達(dá)到業(yè)界第一。 CV大模型的訓(xùn)練過(guò)程 圖網(wǎng)絡(luò)(Graph)大模型,首創(chuàng)圖網(wǎng)絡(luò)融合技術(shù),在工藝優(yōu)化、時(shí)序預(yù)測(cè)、智能分析等場(chǎng)景有廣泛應(yīng)用。 多模態(tài)大模型,具備圖像和文本的跨模態(tài)理解、檢索與生成能力。 科學(xué)計(jì)算大模型,主要解決各種科學(xué)問(wèn)題,旨在用AI促進(jìn)基礎(chǔ)科學(xué)的發(fā)展。 盤(pán)古L0大模型 圖片來(lái)源:浙商證券研究所 除了以上五個(gè)基礎(chǔ)大模型(L0)以外,盤(pán)古大模型不斷進(jìn)化,共分為L0、L1、L2三個(gè)層級(jí)。L0指基礎(chǔ)大模型,L1指行業(yè)大模型,L2則是指面向更加細(xì)分場(chǎng)景的推理模型。 盤(pán)古氣象大模型 盤(pán)古小分子藥物大模型 目前在L1級(jí)別的行業(yè)大模型方面,華為已經(jīng)推出了盤(pán)古金融大模型、盤(pán)古礦山大模型、盤(pán)古氣象大模型、盤(pán)古電力大模型、盤(pán)古制造質(zhì)檢大模型、盤(pán)古藥物分子大模型等行業(yè)大模型。 在L2級(jí)細(xì)分場(chǎng)景模型方面,華為已經(jīng)推出,例如基于氣象大模型的短臨氣象預(yù)報(bào)、臺(tái)風(fēng)預(yù)測(cè)等場(chǎng)景模型;例如基于電力大模型的無(wú)人機(jī)電力巡檢、電力缺陷識(shí)別等場(chǎng)景模型;例如基于時(shí)尚大模型的時(shí)尚輔助設(shè)計(jì)、時(shí)尚版權(quán)保護(hù)等場(chǎng)景模型。此外,在物聯(lián)網(wǎng)、智能座艙、智能駕駛等領(lǐng)域,華為都已推出基于盤(pán)古大模型的各種應(yīng)用。 盤(pán)古大模型生態(tài) 圖片來(lái)源:浙商證券研究所 在生態(tài)建設(shè)方面,華為盤(pán)古大模型是基于昇騰計(jì)算產(chǎn)業(yè)生態(tài)。關(guān)于AI生態(tài)型產(chǎn)業(yè)鏈,華為提出“一平臺(tái)雙驅(qū)動(dòng)”的模式。其中“一平臺(tái)”指基礎(chǔ)軟件平臺(tái),包括AI處理器、服務(wù)器硬件以及芯片使能軟件、AI框架?!半p驅(qū)動(dòng)”指平臺(tái)要支撐的兩大生態(tài),一是技術(shù)生態(tài),二是商業(yè)生態(tài),包括ISV(獨(dú)立軟件開(kāi)發(fā)商)、IHV(獨(dú)立硬件開(kāi)發(fā)商)、整機(jī)、一體機(jī)合作伙伴等。 華為盤(pán)古生態(tài)產(chǎn)業(yè)鏈 華為將在4月8日上午11:00,在《人工智能大模型技術(shù)高峰論壇》上,發(fā)表《盤(pán)古大模型的進(jìn)展及其應(yīng)用》的專(zhuān)題演講,主講人是田奇(華為云人工智能首席科學(xué)家),內(nèi)容非常有看點(diǎn)。觀看地址如下: https刪://weibo.刪com/刪7585110331/刪MAtJFlO4t |
|
來(lái)自: amberain > 《數(shù)碼、科技》