為什么選擇自定義模型？

1. 提高特定領(lǐng)域的準(zhǔn)確性：通用的大語(yǔ)言模型盡管強(qiáng)大，但在處理特定領(lǐng)域的任務(wù)時(shí)，可能會(huì)因?yàn)槿狈︻I(lǐng)域特定知識(shí)而表現(xiàn)不佳。自定義大語(yǔ)言模型通過(guò)領(lǐng)域特定的數(shù)據(jù)進(jìn)行重新訓(xùn)練，可以顯著提高在該領(lǐng)域的表現(xiàn)和準(zhǔn)確性。

2. 增強(qiáng)模型的適用性：自定義大語(yǔ)言模型可以根據(jù)特定應(yīng)用場(chǎng)景的需求進(jìn)行微調(diào)，使其更好地適應(yīng)特定任務(wù)。例如，在客戶服務(wù)中，自定義模型可以更好地理解和回應(yīng)客戶的特定問(wèn)題，提高客戶滿意度。

3. 節(jié)約開(kāi)發(fā)時(shí)間和成本：利用現(xiàn)有的大語(yǔ)言模型進(jìn)行定制化訓(xùn)練，比從頭開(kāi)發(fā)一個(gè)模型要節(jié)約大量時(shí)間和成本。您可以快速部署自定義模型，滿足業(yè)務(wù)需求。

4. 增強(qiáng)品牌和用戶體驗(yàn)：自定義大語(yǔ)言模型可以根據(jù)企業(yè)的品牌語(yǔ)言風(fēng)格進(jìn)行調(diào)整，確保輸出內(nèi)容的一致性和品牌調(diào)性，從而提升用戶體驗(yàn)和品牌形象。

創(chuàng)建自定義模型的流程

創(chuàng)建自定義模型涉及三個(gè)主要步驟：模型調(diào)優(yōu)、模型部署、模型評(píng)測(cè)，以及三個(gè)輔助步驟：訓(xùn)練數(shù)據(jù)準(zhǔn)備、評(píng)測(cè)模板設(shè)計(jì)、調(diào)整訓(xùn)練策略。

1. 模型調(diào)優(yōu)階段：模型會(huì)“學(xué)習(xí)”大量訓(xùn)練數(shù)據(jù)的語(yǔ)言特征，從而理解并生成相似的自然語(yǔ)言。開(kāi)始模型調(diào)優(yōu)之前，您需要做一些訓(xùn)練數(shù)據(jù)準(zhǔn)備工作，包括數(shù)據(jù)收集、數(shù)據(jù)清洗、數(shù)據(jù)集劃分等操作。您需按照訓(xùn)練新模型向?qū)У闹敢渲?span style="outline: none;box-sizing: border-box;margin: 0px;padding: 0px;font-weight: 700;">模型調(diào)優(yōu)。根據(jù)配置的訓(xùn)練超參數(shù)（超參數(shù)是指在模型調(diào)優(yōu)前需要提前設(shè)定的參數(shù)，包括學(xué)習(xí)率、迭代次數(shù)等），阿里云百煉將自動(dòng)訓(xùn)練您選擇的預(yù)置模型。一般情況下，訓(xùn)練過(guò)程是自動(dòng)完成的，無(wú)需進(jìn)一步操作。

2. 模型部署階段：您需要將自定義模型部署到獨(dú)占實(shí)例上，然后調(diào)用或評(píng)測(cè)自定義模型。部署新模型向?qū)椭渲?span style="outline: none;box-sizing: border-box;margin: 0px;padding: 0px;font-weight: 700;">模型部署。根據(jù)配置的自定義模型規(guī)格和資源配置方式，阿里云百煉將計(jì)算預(yù)估價(jià)格。待您確認(rèn)價(jià)格后，阿里云百煉會(huì)自動(dòng)部署模型，一般無(wú)需干預(yù)。完成部署后，您便可以在代碼或評(píng)測(cè)中配置自定義模型。

3. 模型評(píng)測(cè)階段：您可以評(píng)測(cè)已部署的自定義模型。您可以按照創(chuàng)建評(píng)測(cè)任務(wù)向?qū)У闹敢渲?span style="outline: none;box-sizing: border-box;margin: 0px;padding: 0px;font-weight: 700;">模型評(píng)測(cè)。自定義模型不涉及評(píng)測(cè)模板設(shè)計(jì)環(huán)節(jié)。根據(jù)您選擇的評(píng)測(cè)方式、數(shù)據(jù)和維度，阿里云百煉將自動(dòng)完成評(píng)測(cè)，一般無(wú)需干預(yù)。

1. 數(shù)據(jù)收集

您可以從各種信息來(lái)源中發(fā)掘有業(yè)務(wù)價(jià)值的數(shù)據(jù)，并將這些數(shù)據(jù)編排成特定結(jié)構(gòu)。您在完成數(shù)據(jù)收集時(shí)，需仔細(xì)考慮以下策略：

• 來(lái)源多樣化：從書(shū)籍摘錄、學(xué)術(shù)論文、新聞報(bào)道和專業(yè)網(wǎng)站等多種來(lái)源收集數(shù)據(jù)，來(lái)確保模型的適用范圍更廣，可以處理不同類型的問(wèn)題或理解多種表達(dá)方式。

• 質(zhì)量控制：數(shù)據(jù)質(zhì)量決定了模型質(zhì)量。質(zhì)量高、數(shù)量足的數(shù)據(jù)可以讓模型學(xué)得更好，表現(xiàn)更優(yōu)。

• 平衡性考量：確保問(wèn)題類型、難度和答案的分布均勻，避免模型偏向某一特定類型的數(shù)據(jù)，導(dǎo)致訓(xùn)練偏差。

在阿里云百煉，您需要將收集到的數(shù)據(jù)編排成“Prompt-Completion”格式，便于平臺(tái)解析和訓(xùn)練。為了盡可能提高訓(xùn)練效率，我們建議至少準(zhǔn)備500條訓(xùn)練數(shù)據(jù)，要求如下：

• 文本分割：合理分割長(zhǎng)文本，確保每個(gè)Prompt-Completion對(duì)聚焦于單一明確的主題，便于模型學(xué)習(xí)。

• 脫敏處理：移除個(gè)人身份信息、敏感詞匯或不適宜內(nèi)容，保證數(shù)據(jù)合規(guī)與安全。

• 說(shuō)明

• 小貼士：構(gòu)建聊天機(jī)器人的數(shù)據(jù)收集

• 假設(shè)您想創(chuàng)建一個(gè)智能聊天機(jī)器人，能夠回答客戶提出的問(wèn)題。

• 在數(shù)據(jù)收集階段，您的目標(biāo)是：為聊天機(jī)器人收集學(xué)習(xí)材料。

• 數(shù)據(jù)來(lái)源：

• 用戶聊天記錄：比如網(wǎng)站上的在線客服聊天記錄。

• FAQ文檔：公司網(wǎng)站上的常見(jiàn)問(wèn)題解答列表。

• 客戶服務(wù)郵件：客戶發(fā)送給客服團(tuán)隊(duì)的問(wèn)題和相應(yīng)的回復(fù)。

• 數(shù)據(jù)示例：

• 用戶聊天記錄：導(dǎo)出在線客服系統(tǒng)中的聊天記錄，可以包括客戶問(wèn)題和客服回復(fù)。例如：

  客戶：你們的退貨政策是什么？
  客服：我們的退貨政策是在購(gòu)買30天內(nèi)可以無(wú)條件退貨。

• FAQ文檔：收集網(wǎng)站上列出的常見(jiàn)問(wèn)題及其答案。例如：

  問(wèn)：如何更改我的密碼？
  答：請(qǐng)點(diǎn)擊“設(shè)置”，然后選擇“更改密碼”。

• 客戶服務(wù)郵件：導(dǎo)出郵件系統(tǒng)中跟客戶的來(lái)往郵件。例如：

  客戶郵件：我的訂單沒(méi)有收到，怎么辦？
  客服回復(fù)：我們很抱歉，請(qǐng)?zhí)峁┠挠唵翁?hào)，我們會(huì)盡快處理。

2. 數(shù)據(jù)上傳

您需要將準(zhǔn)備好的數(shù)據(jù)上傳至阿里云百煉，以備進(jìn)一步清洗和增強(qiáng)，或直接參與模型調(diào)優(yōu)。平臺(tái)自動(dòng)進(jìn)行格式檢查和基礎(chǔ)數(shù)據(jù)質(zhì)量審核，確保數(shù)據(jù)符合訓(xùn)練要求。

阿里云百煉支持創(chuàng)建不同數(shù)據(jù)類型的數(shù)據(jù)集，包括訓(xùn)練集、評(píng)測(cè)集，支持多版本數(shù)據(jù)管理，發(fā)布后可前往模型調(diào)優(yōu)/評(píng)測(cè)功能使用。您可以利用平臺(tái)提供的工具對(duì)數(shù)據(jù)集進(jìn)行標(biāo)簽標(biāo)注、篩選和版本管理，有利于迭代訓(xùn)練和性能追蹤。

3. 數(shù)據(jù)清洗與數(shù)據(jù)增強(qiáng)（可選）

數(shù)據(jù)清洗是指檢查并處理收集到的數(shù)據(jù)，以保證數(shù)據(jù)的質(zhì)量、完整性和一致性。這一步驟可以顯著提高模型的訓(xùn)練效果和預(yù)測(cè)能力。數(shù)據(jù)增強(qiáng)是指增加多樣性并擴(kuò)展訓(xùn)練數(shù)據(jù)的規(guī)模。

阿里云百煉提供了模型數(shù)據(jù)的版本管理能力，您的數(shù)據(jù)將在清洗或增強(qiáng)后自動(dòng)生成一個(gè)新版本。新版本數(shù)據(jù)獨(dú)立保存，不會(huì)覆蓋源數(shù)據(jù)。

新建訓(xùn)練任務(wù)

您可通過(guò)模型調(diào)優(yōu)頁(yè)面的訓(xùn)練新模型操作向?qū)В瓿捎?xùn)練的參數(shù)設(shè)置，具體操作如下：

1. 登錄阿里云百煉控制臺(tái)，在左側(cè)導(dǎo)航欄中，選擇模型工具 > 模型調(diào)優(yōu)。這里展示了所有調(diào)優(yōu)任務(wù)。

2. 點(diǎn)擊訓(xùn)練新模型，阿里云百煉將會(huì)引導(dǎo)您配置訓(xùn)練參數(shù)：

• 最大靈活性：全參數(shù)訓(xùn)練可使模型適應(yīng)新的數(shù)據(jù)和任務(wù)，具有最大的調(diào)整靈活性。

• 高性能：在理論上，全參數(shù)訓(xùn)練可以獲得最高的性能，因?yàn)樗袇?shù)都經(jīng)過(guò)調(diào)整以優(yōu)化特定任務(wù)。

• 時(shí)間成本高：訓(xùn)練時(shí)間長(zhǎng)，特別是在大型數(shù)據(jù)集上的訓(xùn)練。

• 過(guò)擬合風(fēng)險(xiǎn)：如果數(shù)據(jù)量不足或不平衡，全參數(shù)訓(xùn)練可能導(dǎo)致模型過(guò)擬合于特定訓(xùn)練數(shù)據(jù)。

• 快速訓(xùn)練：比全參數(shù)訓(xùn)練更快，適合快速迭代和原型開(kāi)發(fā)。

• 減小過(guò)擬合風(fēng)險(xiǎn)：微調(diào)部分參數(shù)可以降低過(guò)擬合風(fēng)險(xiǎn)。

• 性能可能受限：在某些任務(wù)上，性能可能略低于全參數(shù)訓(xùn)練。

• 適用范圍有限：當(dāng)任務(wù)的性質(zhì)高度變化或與預(yù)訓(xùn)練任務(wù)顯著不同，高效訓(xùn)練可能無(wú)法有效遷移已有的知識(shí)。

1. 訓(xùn)練方式：阿里云百煉支持全參訓(xùn)練和高效訓(xùn)練兩種方式，以下是選擇建議：

   訓(xùn)練方式	優(yōu)點(diǎn)	缺點(diǎn)
   全參訓(xùn)練
   高效訓(xùn)練

   高效訓(xùn)練能較好地平衡訓(xùn)練時(shí)長(zhǎng)和訓(xùn)練效果，一般建議您選擇高效訓(xùn)練。

2. 選擇模型：阿里云百煉支持基于預(yù)置模型或自定義模型的調(diào)優(yōu)。

   如果您是第一次訓(xùn)練模型，建議選擇預(yù)置模型；如果您調(diào)整了訓(xùn)練策略，希望基于已訓(xùn)練的模型進(jìn)行再次訓(xùn)練，則可選擇自定義模型。

   阿里云百煉提供了多種可調(diào)優(yōu)的預(yù)置模型，各模型特性請(qǐng)參閱模型調(diào)用。

3. 選擇訓(xùn)練數(shù)據(jù)：選擇參與訓(xùn)練的數(shù)據(jù)集，您在已上傳的數(shù)據(jù)集列表中選擇訓(xùn)練集。

   說(shuō)明

   如果清洗或增強(qiáng)了數(shù)據(jù)，您需要注意數(shù)據(jù)集的名稱和版本，以免誤選未經(jīng)處理的數(shù)據(jù)。

4. 選擇驗(yàn)證數(shù)據(jù)：選擇參與驗(yàn)證訓(xùn)練效果的數(shù)據(jù)集，您可以選擇自動(dòng)切分或從數(shù)據(jù)列表中選擇驗(yàn)證集。

   如果您沒(méi)有準(zhǔn)備驗(yàn)證數(shù)據(jù)集，建議選擇自動(dòng)切分，阿里云百煉將從選定的訓(xùn)練集中劃分一部分?jǐn)?shù)據(jù)作為驗(yàn)證集。反之，建議從數(shù)據(jù)列表中選擇驗(yàn)證集。

   說(shuō)明

   如果您清洗或增強(qiáng)了數(shù)據(jù)，您需要注意數(shù)據(jù)集的名稱和版本，以免誤選未經(jīng)處理的數(shù)據(jù)。

5. 混合訓(xùn)練：為了避免基礎(chǔ)模型能力的遺失并提高訓(xùn)練效果，阿里云百煉支持您將自備的訓(xùn)練數(shù)據(jù)與預(yù)置通用數(shù)據(jù)混合訓(xùn)練。您可以調(diào)整自備訓(xùn)練數(shù)據(jù)與預(yù)置通用數(shù)據(jù)的比例，如果所有類型的預(yù)置通用數(shù)據(jù)的比例設(shè)置為0，您將不使用預(yù)置數(shù)據(jù)。

6. 超參配置：模型的超參配置決定一定程度的模型調(diào)優(yōu)效果，您可按照自己的訓(xùn)練經(jīng)驗(yàn)進(jìn)行配置。如果您不了解超參數(shù)，阿里云百煉也提供一套基于實(shí)驗(yàn)所得的默認(rèn)配置，您可以遵循默認(rèn)配置。

7. 開(kāi)始訓(xùn)練：這一步將展示您的所有訓(xùn)練配置，阿里云百煉會(huì)自動(dòng)計(jì)算預(yù)估的訓(xùn)練費(fèi)用（稍后您也可以在訓(xùn)練任務(wù)列表中瀏覽預(yù)估費(fèi)用明細(xì)，實(shí)際產(chǎn)生費(fèi)用以生成賬單為準(zhǔn)）。待您確認(rèn)配置和價(jià)格信息無(wú)誤后即可開(kāi)始訓(xùn)練。

3. 開(kāi)始訓(xùn)練后，您可以在模型調(diào)優(yōu)列表中查看模型的訓(xùn)練進(jìn)度、預(yù)估費(fèi)用和其他管理操作。有關(guān)訓(xùn)練費(fèi)用的詳細(xì)信息，請(qǐng)參考產(chǎn)品計(jì)費(fèi)。

管理訓(xùn)練任務(wù)

待您啟動(dòng)訓(xùn)練后，您新建的模型訓(xùn)練任務(wù)將出現(xiàn)在模型調(diào)優(yōu)的列表里，其訓(xùn)練狀態(tài)將變更為訓(xùn)練中。此時(shí)，您可點(diǎn)擊訓(xùn)練任務(wù)的查看操作進(jìn)入訓(xùn)練詳情頁(yè)，瀏覽訓(xùn)練任務(wù)的配置和訓(xùn)練的過(guò)程指標(biāo)。您可以點(diǎn)擊查看預(yù)估來(lái)瀏覽本次訓(xùn)練任務(wù)預(yù)估的計(jì)費(fèi)信息。您也可以隨時(shí)點(diǎn)擊終止訓(xùn)練來(lái)結(jié)束訓(xùn)練任務(wù)。

訓(xùn)練過(guò)程指標(biāo)主要有以下三個(gè)，大致體現(xiàn)了模型的訓(xùn)練效果。如果您不了解這些指標(biāo)的含義，也可以等待訓(xùn)練結(jié)束后，使用阿里云百煉的模型評(píng)測(cè)工具評(píng)價(jià)訓(xùn)練效果。

一般情況下，千條以下的數(shù)據(jù)訓(xùn)練所需的時(shí)長(zhǎng)為2-3個(gè)小時(shí)。由于平臺(tái)承載能力有限，可能出現(xiàn)排隊(duì)狀態(tài)，還請(qǐng)您諒解。訓(xùn)練任務(wù)完成后，列表及詳情頁(yè)中模型的狀態(tài)將變更為訓(xùn)練成功，此時(shí)您已經(jīng)獲得自定義模型，該模型已處于等待部署狀態(tài)，您可以直接點(diǎn)擊模型部署跳轉(zhuǎn)到部署頁(yè)面。

新建部署任務(wù)

1. 登錄阿里云百煉控制臺(tái)，在左側(cè)導(dǎo)航欄中，選擇模型工具 > 模型部署。您也可以在模型工具 > 模型訓(xùn)練中等待模型訓(xùn)練結(jié)束后，直接點(diǎn)擊模型部署。這里展示了所有模型部署任務(wù)。

2. 點(diǎn)擊部署新模型，您將跟隨向?qū)У闹敢瓿刹渴鹋渲茫?/p>

1. 選擇模型：阿里云百煉提供了兩類可部署的模型，此處請(qǐng)您選擇之前訓(xùn)練的自定義模型。

2. 選擇資源配置：阿里云百煉提供了兩類資源配置方式。包月資源是按月購(gòu)買計(jì)算資源的方式，不同版本的包月資源在部署模型的能力上有差別。按量付費(fèi)是按實(shí)際使用時(shí)長(zhǎng)購(gòu)買計(jì)算資源的方式，您可以按需購(gòu)買一定數(shù)量的計(jì)算資源，也可以隨后變更計(jì)算資源的數(shù)量。為完成后續(xù)的模型評(píng)測(cè)，對(duì)訓(xùn)練效果做進(jìn)一步評(píng)估，此處推薦您選擇按量付費(fèi)。

3. 開(kāi)始部署：這一步將展示您的所有部署配置和預(yù)估費(fèi)用，待您確認(rèn)所有信息后即可開(kāi)始部署。

3. 開(kāi)始部署后，您可以在模型部署列表中查看模型的部署進(jìn)度、預(yù)估費(fèi)用和其他管理操作。有關(guān)部署費(fèi)用的詳細(xì)信息，請(qǐng)參考產(chǎn)品計(jì)費(fèi)。

一般情況下，模型部署時(shí)長(zhǎng)在幾十分鐘到幾個(gè)小時(shí)不等，由于阿里云百煉資源限制，部署可能會(huì)產(chǎn)生隊(duì)列，部署完成后，狀態(tài)將變?yōu)檫\(yùn)行中，運(yùn)行中的模型可被調(diào)用，用于模型評(píng)測(cè)及應(yīng)用調(diào)用。

管理部署任務(wù)

待您啟動(dòng)部署后，您新建的模型部署任務(wù)將出現(xiàn)在模型部署的列表里，其部署狀態(tài)將變更為部署中。此時(shí)，您可點(diǎn)擊部署任務(wù)的查看操作瀏覽部署任務(wù)的配置。您可以點(diǎn)擊擴(kuò)縮容來(lái)變更計(jì)算資源的用量。您也可以隨時(shí)點(diǎn)擊下線來(lái)結(jié)束部署任務(wù)。

待部署完成后，其部署狀態(tài)將變更為運(yùn)行中。此時(shí)您訓(xùn)練的自定義模型已經(jīng)具備了推理調(diào)用的能力。您可以點(diǎn)擊去體驗(yàn)，在模型體驗(yàn)頁(yè)面測(cè)試您的自定義模型推理效果。此時(shí)，您可以使用模型評(píng)測(cè)對(duì)自定義模型的效果做評(píng)估。

新建評(píng)測(cè)任務(wù)

1. 登錄阿里云百煉控制臺(tái)，在左側(cè)導(dǎo)航欄中，選擇模型工具 > 模型評(píng)測(cè)。這里展示了所有模型評(píng)測(cè)任務(wù)。

2. 點(diǎn)擊創(chuàng)建評(píng)測(cè)任務(wù)，您將遵循向?qū)瓿稍u(píng)測(cè)任務(wù)的配置：

1. 評(píng)測(cè)方式：阿里云百煉提供了多種評(píng)測(cè)方式。對(duì)于自定義模型，請(qǐng)您選擇基線評(píng)測(cè)。

2. 選擇模型：請(qǐng)?jiān)谙吕蛑羞x擇已部署的目標(biāo)評(píng)測(cè)模型。

3. 選擇評(píng)測(cè)數(shù)據(jù)：阿里云百煉預(yù)置了基線評(píng)測(cè)集（包括C-Eval/CMMLU等主流榜單評(píng)測(cè)集）對(duì)待測(cè)模型的各項(xiàng)基礎(chǔ)通用能力進(jìn)行自動(dòng)評(píng)測(cè)。您可以任選評(píng)測(cè)數(shù)據(jù)，以此構(gòu)建您的所有評(píng)測(cè)數(shù)據(jù)。

4. 開(kāi)始評(píng)測(cè)：這一步將展示您的所有評(píng)測(cè)配置和預(yù)估費(fèi)用，待您確認(rèn)所有信息后即可開(kāi)始評(píng)測(cè)。

3. 開(kāi)始評(píng)測(cè)后，您可以在模型評(píng)測(cè)列表中查看模型的評(píng)測(cè)進(jìn)度、預(yù)估費(fèi)用和其他管理操作。有關(guān)評(píng)測(cè)費(fèi)用的詳細(xì)信息，請(qǐng)參考產(chǎn)品計(jì)費(fèi)。

管理評(píng)測(cè)任務(wù)

當(dāng)評(píng)測(cè)開(kāi)始后，該評(píng)測(cè)任務(wù)的狀態(tài)將變更為執(zhí)行中或隊(duì)列中，您可以隨時(shí)點(diǎn)擊中止來(lái)結(jié)束評(píng)測(cè)。待評(píng)測(cè)完成后，您可以點(diǎn)擊結(jié)果查看詳細(xì)的評(píng)測(cè)結(jié)果。您可以點(diǎn)擊刪除刪去一項(xiàng)評(píng)測(cè)任務(wù)。