歡迎報名 NVIDIA 深度學(xué)習(xí)培訓(xùn)中心（DLI）8 月 6 日舉辦的 AI 培訓(xùn)班《大規(guī)模部署與優(yōu)化 AI 推理》，學(xué)習(xí)如何設(shè)計、部署和優(yōu)化大規(guī)模推理系統(tǒng)，以應(yīng)對大語言模型 (LLM) 邁向更深層次的測試時計算。本課程由 NVIDIA 認證講師全天實時中文授課和答疑，配合云端實驗環(huán)境動手實操，涵蓋 vLLM、NVIDIA Dynamo 聚合式推理架構(gòu)，以及 Prometheus、Grafana 等完整可觀測性堆棧的部署與使用，完成課內(nèi)測試可獲得 NVIDIA 課程證書。
掌握 LLM 推理核心規(guī)律，
構(gòu)建可觀測、高性能的生產(chǎn)級推理系統(tǒng)
開課時間
2026 年 8 月 6 日
課程名稱
《大規(guī)模部署與優(yōu)化 AI 推理》
課程概要
學(xué)習(xí)如何設(shè)計、部署和優(yōu)化大規(guī)模推理系統(tǒng)，以應(yīng)對大語言模型邁向更深層次的測試時計算
學(xué)習(xí)目標
從第一性原理出發(fā)思考 LLM 推理，包括預(yù)填充 (prefill) 與解碼 (decode) 的對比、KV-Cache 擴展以及內(nèi)存與計算之間的權(quán)衡
在 Kubernetes 上部署基于 vLLM 的推理系統(tǒng)，從單體式服務(wù)開始
使用 NVIDIA Dynamo 實現(xiàn)聚合式與非聚合式推理，并支持 KV-aware 的路由與調(diào)度
暴露推理服務(wù)并跟蹤 Token 級別使用情況，用于監(jiān)測與成本管理
部署 Prometheus、Grafana、Loki 和 Tempo，以觀察請求、標記和系統(tǒng)組件層面的推理行為
使用關(guān)鍵指標 (如 TTFT、跨 Token 延遲、吞吐量和尾延遲) 衡量推理性能
通過實證基準比較單體式、網(wǎng)關(guān)式與非聚合式推理系統(tǒng)之間的架構(gòu)權(quán)衡
在本課程中，學(xué)習(xí)者將使用 NVIDIA Dynamo 在分布式環(huán)境中部署模型。
預(yù)備知識
命令行操作熟練
具備配置文件 (例如 YAML、JSON) 使用經(jīng)驗
熟悉容器及基于容器的工作流 (例如 Docker)，并對 Kubernetes 有基本了解
對 LLM 推理概念有基本理解
熟悉分布式計算概念，如數(shù)據(jù)并行或模型并行
課程使用的工具 / 技術(shù) / 框架
NVIDIA Dynamo
課程模式
NVIDIA 認證講師實時授課答疑，每位學(xué)員可使用完全配置的云端實驗環(huán)境進行練習(xí)
課程證書
成功完成課程和課內(nèi)測試后，獲得 NVIDIA 課程證書
課程語言
中文
課件有效期
課后 6 個月內(nèi)可以繼續(xù)訪問課件 (實驗資源用量有限額)
課程費用
3500 RMB / 人，購買 5 個席位，立享 8 折優(yōu)惠。全日制高校師生可享 7 折。
咨詢企業(yè)專屬培訓(xùn)和折扣，請微信聯(lián)系 DLI 小助手 (微信號：NVIDIALearn)
立即報名
請掃描下方二維碼，或點擊文末“閱讀原文”
也可復(fù)制并訪問：
bagevent.com/event/8359360
點擊“立即報名”，選擇課程，添加席位數(shù)量。
查看課程詳情，請掃描下方二維碼：
NVIDIA AI 培訓(xùn)班定期培訓(xùn)課程表
8 月 6 日：《大規(guī)模部署與優(yōu)化 AI 推理》
8 月 20 日：《使用大語言模型構(gòu)建代理式 AI》
9 月 3 日：《使用多模態(tài)構(gòu)建 AI 智能體》
9 月 17 日：《加速計算基礎(chǔ) —— CUDA C++ 前沿技術(shù)》
NVIDIA 認證 8 - 9 月考位開放報名
為什么要考 NVIDIA 認證？
在 AI 快速落地的時代，技術(shù)能力需要看得見的證明。NVIDIA 認證幫助您在生成式 AI、數(shù)據(jù)科學(xué)、AI 基礎(chǔ)架構(gòu)等核心領(lǐng)域建立公信力 —— 無論是對客戶、合作伙伴，還是您自己的團隊。
考試面向開發(fā)者與 IT 專業(yè)人員，分為 Associate (初級) 和 Professional (中級) 兩個級別，共 11 門科目，覆蓋主流 AI 技術(shù)方向。考取 NVIDIA 認證，不只是個人職業(yè)競爭力的加分項，也是團隊技術(shù)實力對外的可靠背書。
歡迎您和團隊、伙伴及身邊的技術(shù)人員一同報考，共同解鎖更多發(fā)展機遇。
考試時間和地點
（每場考試任選一門科目）
北京考試日：8 月 19 日：13:30 - 15:30、15:45 - 17:45
上海考試日：9 月 16 日：13:30 - 15:30、15:45 - 17:45
考試地點：NVIDIA 北京或上海辦公室
NVIDIA 證書和徽章
通過認證考試，您將獲得全球同步的電子徽章和數(shù)字證書，并被收錄于 NVIDIA 認證名錄中。
考試語言
可選中文或英文
選擇考試和備考
請掃描下方二維碼，訪問 NVIDIA 認證中文官網(wǎng)，點擊每一門認證科目介紹頁面，查看詳細的考試大綱、考前學(xué)習(xí)指南、推薦培訓(xùn)和更多資源
也可復(fù)制并訪問：
nvidia.cn/training/certification
歡迎掃描下方二維碼加入 NVIDIA DLI 認證交流群。如遇群滿，微信添加 DLIChina，備注“咨詢認證”。
NVIDIA 培訓(xùn)精選合集
NVIDIA 培訓(xùn) | 學(xué)習(xí)《AI 基礎(chǔ)架構(gòu)與運維》，備考 NVIDIA 認證
NVIDIA 認證 | AI 基礎(chǔ)架構(gòu)與網(wǎng)絡(luò) 4 大認證報考指南
NVIDIA 認證 | 考取生成式 AI 四門認證，備考路徑全解析
NVIDIA 認證 | 常見問題解答：備考前必讀的 12 個問題
NVIDIA 認證 | 如何選考試？四大技術(shù)方向解讀 11 門認證
NVIDIA 培訓(xùn) | AI 實戰(zhàn)培訓(xùn)免費學(xué)，理論結(jié)合實操快速上手
掃描下方海報二維碼，報名 NVIDIA 北京及上海每月現(xiàn)場考試，8 - 9 月考位已開放預(yù)約。
