昇騰超大規模MoE模型推理負載均衡技術報告

• 1、昇騰超大規模Pangu MoE模型全流程高效訓練實踐
  
• 《盤古Pro MoE大模型技術合集》 
• 2、盤古Pro MoE：昇騰原生的分組混合專家模型 
• 3、Pangu Pro MoE：Mixture of Grouped Experts for Efficient Sparsity 
• 4、Pangu Ultra MoE 模型架構與訓練方法
• 5、華為昇騰服務器：DeepSeek V3 R1推理部署最佳實踐
• 6、昇騰高吞吐投機推理框架FusionSpec
• 7、SMTurbo：面向高性能原生LoadStore語義加速
• 8、OptiQuant：昇騰親和的DeepSeek模型量化技術
• 9、OmniPlacement：昇騰超大規模MoE模型推理負載均衡技術報告
• 10、AMLA：以加代乘的高性能昇騰MLA算子
• 11、大模型推理中昇騰算子融合技術與設計原理
• 《華為昇騰：FlashComm大模型推理系列實踐》 
• 12、華為昇騰：FlashComm2大模型推理中以存換傳的通信優化技術 
• 13、華為昇騰：FlashComm3大模型推理中的多流并行技術 
• 14、華為昇騰：FlashComm大模型推理中的AllReduce通信優化技術

免責申明：本號聚焦相關技術分享，內容觀點不代表本號立場，可追溯內容均注明來源，發布文章若存在版權等問題，請留言聯系刪除，謝謝。

溫馨提示：

請搜索“AI_Architect”或“掃碼”關注公眾號實時掌握深度技術分享，點擊“閱讀原文”獲取更多原創技術干貨。