?課程目標(biāo):
1、掌握AI模型如何實(shí)現(xiàn)本地部署
2、掌握AI知識(shí)庫(kù)的搭建及本地部署文件導(dǎo)錄的要求及格式
3、掌握AI智能體的搭建和訓(xùn)練
4、掌握控制AI生成標(biāo)書(shū)等專(zhuān)業(yè)文件格式的技能
5、掌握部署工具的選擇、系統(tǒng)適配要求、本地部署流程
6、掌握AI知識(shí)庫(kù)相關(guān)的向量庫(kù)部署和嵌入模型設(shè)置
7、掌握智能體訓(xùn)練和微調(diào)方法,包括數(shù)據(jù)準(zhǔn)備、模型調(diào)優(yōu)、訓(xùn)練流程管理
8、掌握文件輸出格式定制和多場(chǎng)景適配方法,包括模版設(shè)計(jì)、格式適配及校驗(yàn)機(jī)制等
9、掌握AI在SW等軟件上的二次開(kāi)發(fā),實(shí)現(xiàn)快速建模及工程出圖
10、掌握LongWriter、DeepSeek、Qwen等主要開(kāi)源大模型的部署和優(yōu)化
11、掌握GPT、Gemini等主要商用大模型的調(diào)用
12、掌握AI模型本地部署和工程落地和相關(guān)優(yōu)化
課程大綱:
|
主題 |
內(nèi)容 |
|
AI大模型本地部署 |
1、?LongWriter模型介紹 2、?模型部署環(huán)境適配 l?Ubuntu22.04容器準(zhǔn)備 l?GPU檢測(cè) l?CUDA安裝 3、?模型下載 l?HuggingFace介紹 l?ModelScope下載 4、?模型本地部署 l?模型文件校驗(yàn) l?Xinference部署 l?vllm安裝 l?啟動(dòng)模型服務(wù) 5、?WebUI部署 l?WebUI部署 l?模型配置 l?對(duì)話(huà)測(cè)試 |
|
智能體平臺(tái)部署 |
1、?Dify簡(jiǎn)介 2、?Dify部署 l?Docker容器化部署 l?裸機(jī)虛機(jī)部署 3、?模型庫(kù)配置 l?本地模型服務(wù)化調(diào)用 l?遠(yuǎn)程模型接口調(diào)用 4、?Dify知識(shí)庫(kù)配置 l?Milvus向量庫(kù)配置 l?嵌入模型配置 l?向量庫(kù)索引優(yōu)化 l?知識(shí)庫(kù)上傳與檢索 5、?Dify工作流配置 l?工作流模版配置 l?典型工作流節(jié)點(diǎn) l?工具調(diào)用配置 l?模型集成與調(diào)用 |
|
標(biāo)書(shū)生成案例(上) |
1、?傳統(tǒng)標(biāo)書(shū)制作的瓶頸 2、?智能標(biāo)書(shū)生成系統(tǒng)架構(gòu)設(shè)計(jì) 3、?標(biāo)書(shū)素材知識(shí)庫(kù)與數(shù)據(jù)集構(gòu)建 4、?標(biāo)書(shū)背景和約束意圖識(shí)別 5、?標(biāo)書(shū)大綱思維鏈生成 6、?標(biāo)書(shū)模式生成引導(dǎo) |
|
標(biāo)書(shū)生成案例(下) |
7、?標(biāo)書(shū)生成格式與內(nèi)容驗(yàn)證 l?標(biāo)書(shū)生成結(jié)構(gòu)化聲明 l?標(biāo)書(shū)自動(dòng)驗(yàn)證與修復(fù) 8、?標(biāo)書(shū)生成約束解碼 l?SketchGCD約束解碼 l?KG知識(shí)圖譜約束解碼 9、?標(biāo)書(shū)結(jié)構(gòu)化輸出SFT微調(diào) 10、標(biāo)書(shū)生成的SRL強(qiáng)化學(xué)習(xí)優(yōu)化 11、標(biāo)書(shū)生成的TOS控制與工具調(diào)用 12、標(biāo)書(shū)生成質(zhì)量智能評(píng)估與版本自動(dòng)迭代 |
?
以上課程可以根據(jù)客戶(hù)實(shí)際情況進(jìn)行靈活調(diào)整。