網上營業廳
掌上營業廳
近期，中國電信研究院聯合北京智源人工智能研究院、昆侖芯科技有限公司、中興通訊、北京基流科技有限公司、中科加禾公司等產業合作伙伴，依托中國電信云網融合大科創裝置，完成業界首次DeepSeek系列模型基于“英偉達算力+國產算力”交叉組合的異構PD分離推理試驗驗證，實現大模型推理集群的降本增效。
本試驗完成了面向大模型推理的異構算力協同技術針對6類典型場景的推理性能驗證，DeepSeek 671B模型在多種場景下實現推理集群總吞吐性能30％～72％的提升，并發能力提升2倍，同等吞吐條件下，異構算力組合推理成本下降最高達42％，真正實現“存量利舊”與“國產替代”的雙重目標。
針對推理Prefill與Decode階段特性優化芯片設計逐漸成為行業共識，英偉達和華為分別發布芯片設計規劃，將PD兩階段分別適用“高算低存”和“低算高存”的思路融于芯片設計。中國電信研究院在2025年初洞察到PD分離推理對算力異質性的需求，構建異構通信優化、PD資源調配、推理任務調度全棧自研異構混推體系，展現出三大核心優勢：一是通過自研異構傳輸引擎，實現跨架構芯片PD池間KVCache的高效傳輸；二是采用自研國產算力賦能工具“翼芯”，根據業務特征與算力性能自動推薦并實時優化PD資源配比；三是構建AI推理平臺，實現推理任務在Prefill池與Decode池間的動態調度。
技術驗證的成功體現了中國電信對智算推理優化技術的深刻理解與對國產算力適配調優的實踐創新，彰顯了中國電信作為算力基礎設施建設方推動國產算力從“可用”到“好用”的央企擔當。未來，中國電信將持續深化國產算力高質量發展布局，面向大模型訓推一體、多智能體系統打造“互聯互通、高效協同”的異構算力生態格局，推動新型信息基礎設施協調發展。
