4 月 24 日消息,今天上午,DeepSeek-V4 模型预览版正式上线并同步开源。这一里程碑式的适配标志着国产 AI 算力基础设施与大模型生态的深度融合迈入了新阶段。DeepSeek V4 作为新一代领先的开源及闭源混合大模型,凭借其强大的逻辑推理与多模态处理能力备受瞩目,而华为昇腾超节点凭借其独创的算力调度技术与互联互通架构,能够完美承载并发挥该模型的极致潜能。
此次全面支持并非简单的兼容,而是基于全栈架构的深度优化,旨在实现“昇腾芯”与 V4 模型的软硬协同效能最大化。在实际应用场景中,基于昇腾超节点部署 DeepSeek V4,能够显著降低推理延迟,提升在大并发下的吞吐量,从而有效降低企业模型落地的总体拥有成本(TCO)。这不仅打破了异构算力的融合壁垒,更为千行百业的智能化转型提供了稳定、高效、自主可控的解决方案,助力国产人工智能产业在新一轮技术浪潮中占据制高点。
华为官方随后宣布,通过双方芯模技术紧密协同,实现昇腾超节点全系列产品支持 DeepSeek V4 系列模型。
官方表示,昇腾 950 通过融合 kernel 和多流并行技术降低 Attention 计算和访存开销,大幅提升推理性能,结合多种量化算法,实现了高吞吐、低时延的 DeepSeek V4 模型推理部署。昇腾 A3 超节点系列产品也全面适配,同时为便于用户快速微调,提供了基于昇腾 A3 超节点的训练参考实现。
基于 DeepSeek V4-Pro 模型,在 8K 输入场景,昇腾 950 超节点可实现 TPOT 约 20ms 时单卡 Decode 吞吐 4700TPS。DeepSeek V4-Flash 模型,8K 长序列输入场景下可实现 TPOT 约 10ms 时单卡 Decode 吞吐 1600TPS(上述 Benchmark 数据均基于 Offine 推理模式采集,不包含 Serving 调度和框架负载均衡影响)。
基于昇腾 A3 64 卡超节点结合大 EP 模式部署,DeepSeek V4-Flash 模型,8K/1K 输入输出场景,基于 vLLM 推理引擎可实现 2000+TPS 的单卡 Decode 吞吐,单卡吞吐持续提升。官方表示,针对 DeepSeek V4-Pro 模型,昇腾 A3 同步支持推理部署,性能持续优化中。