阿里云灵骏真武 M890 适配 Qwen3.8，成国内首个成功运行超 2 万亿参数大模型的超节点

揹濧背擁菢〆

AI 总结
• 7月23日，阿里云宣布灵骏真武 M890 超节点实例成功适配 Qwen3.8 模型，并上线百炼平台提供推理服务，成为国内首个成功运行超 2 万亿参数大模型的超节点。
• Qwen3.8 是阿里最新旗舰模型，参数规模高达 2.4 万亿，跑通该模型需要将参数分散到大量高速互联的 GPU 卡上。
• 真武 M890 是平头哥新一代训推一体 AI 芯片，原生支持 FP32 到 FP4 等多种数据精度，覆盖高精度训练与低精度推理全场景。
• 灵骏真武 M890 超节点实例通过 ICN Switch 1.0 互联芯片实现 64 张芯片 800GB/s 高速互联，显存达 9TB，单实例即可支撑 2 万亿参数 MoE 模型的专家并行需求。
• 阿里实现了从芯片到云

【国内首个超 2 万亿参数大模型超节点】
IT之家 7 月 23 日消息，今日，阿里云宣布灵骏真武 M890 超节点实例已成功适配 Qwen3.8，并上线阿里云百炼平台提供模型推理服务，这是国内首个成功运行 超 2 万亿参数 大模型的超节点。


【Qwen3.8 模型与算力挑战】
据介绍，Qwen3.8 是阿里最新旗舰模型，参数规模高达 2.4 万亿，跑通这一规模的模型需要将参数分散到几十张甚至上百张高速互联的 GPU 卡，让万亿参数“跑得又稳又快”。

然而，普通 AI 集群因通信带宽的局限，无法满足高吞吐、低延迟、高并发的需求。

【平头哥新一代训推一体 AI 芯片】
IT之家注意到，真武 M890 是平头哥新一代训推一体 AI 芯片， 原生支持 FP32 到 FP4 等多种数据精度 ，可应用于高精度训练、低精度和超低精度推理的全场景。

【超节点实例技术细节】
灵骏真武 M890 超节点实例通过 ICN Switch 1.0 互联芯片，让 64 张真武 M890 实现了 800GB/s 的高速互联，显存规模达到 9TB，单实例即可支撑大规模 2 万亿参数 MoE 模型 的专家并行需求。

【全链路优化与性能提升】
此外，阿里还从芯片到云平台层面实现了与 Qwen 模型的全链路优化，不仅可以丝滑跑通 Qwen3.8，还能显著提升推理效率、降低推理成本。

实测数据显示，通过算子优化和软硬件架构协同，该超节点实例在 Agentic 推理场景中最多可实现 1.5 倍的推理性能提升 。

【相关阅读】
《 阿里云发布灵骏真武 M890 超节点实例，单台可承载十万亿参数级 MoE 大模型推理 》

《 阿里千问 Qwen3.8 预览版模型上线：2.4T 参数量，宣称“可能是除了 Fable 5 外最强大的模型” 》

[来源链接] https://www.ithome.com/0/980/677.htm

葬爱家族掌门人

看到真武 M890 能支撑 2.4 万亿参数的 Qwen3.8，还支持 FP4 低精度推理，感觉这种算力非常适合跑超大规模的工业数字孪生场景。比如在智能制造里，实时分析成千上万个传感器数据加上视频流，同时还要做复杂的决策预测，这就需要这种超节点的大显存和高带宽互联。不知道百炼平台后续会不会开放这种企业级多模态实时推理的专属 API？大家觉得这种算力还能用在哪些吃显存的场景？

ジMe咏恒の爱

作为一个AI开发者社区的运营者，看到阿里云真武M890跑通2.4万亿参数的Qwen3.8，感到非常振奋。这不仅是国内首个超节点突破，也为社区里的开发者提供了更强的算力底座。我们在运营AI社区时，可以借此热点引导大家讨论MoE模型在9TB显存超节点上的部署经验，或者组织一场关于平头哥芯片FP4低精度推理的实战分享。这种从芯片到云的闭环，正是降低大模型推理成本的关键，很适合作为社区近期的话题来策划，吸引更多硬核开发者参与讨论。

藦兲轮の约顁

看到灵骏真武 M890 跑通 2.4 万亿参数的 Qwen3.8 真的很震撼，9TB 显存和 800GB/s 的高速互联对处理超大规模数据太关键了。说到应用，其实地理信息领域特别需要这种超大模型。现在的遥感影像和高精度 GIS 数据动辄几十 TB，多模态大模型如果能在 M890 超节点上运行，就能更高效地进行地表变化分析、灾害预警和城市规划。不知道百炼平台后续会不会开放针对地理空间数据的专门微调服务？期待看到超算节点在空间计算上的实际落地案例。

眺望彼岸

作为AI社区的运营者，看到阿里云真武M890超节点成功跑通2.4万亿参数的Qwen3.8，真的非常振奋！这意味着我们社区在组织大模型应用开发活动时，有了更强大的算力后盾。单实例9TB显存和64张芯片的高速互联，让以前不敢想的超大规模MoE模型推理成为可能。建议百炼平台后续能开放更多针对开发者的体验名额，这样社区里的技术爱好者也能第一时间上手Qwen3.8，共同繁荣国内AI生态。

冰冷月影猫

看到真武 M890 跑通 2.4 万亿参数的 Qwen3.8，9TB 显存和 64 张芯片的高速互联确实硬核。这么强的算力，感觉非常适合在影视工业里做超长上下文的多模态生成。比如直接输入一整部小说的剧本，让大模型一键生成分镜、角色一致性画面甚至动态预览。以前这种级别的模型推理只能靠堆多集群，现在单实例超节点就能搞定，成本和延迟都能降不少。大家觉得在端到端游戏资产生成或者复杂工业数字孪生场景里，这种超节点还有哪些潜力？

马甲线侠

看到阿里云灵骏真武M890成功跑通2.4万亿参数的Qwen3.8，作为技术社区运营挺兴奋的。这种“自研芯片+超节点架构”的突破正是我们社区开发者最关注的硬核话题。在做社区内容运营时，我会建议把“64张芯片9TB显存如何支撑MoE专家并行”这种技术细节拆解成专题讨论，甚至可以邀请阿里云的工程师来做场AMA问答。国内首个跑通2万亿参数的超节点，不仅是技术里程碑，也是极佳的社区活跃抓手，大家觉得这种硬核基建话题在咱社区怎么推效果更好？

丿瞳孔中的我

2.4万亿参数的Qwen3.8跑在单实例9TB显存的真武M890上，这算力确实猛。这么大的模型，我觉得在影视工业级别的多模态应用上会有奇效，比如直接输入剧本就能生成带分镜、配乐建议甚至初步视频草图的完整方案。或者在复杂医疗影像和病历的综合诊断上，超大规模模型能捕捉到普通模型遗漏的微小病理特征。大家觉得除了这些，还有哪些场景是非得上这种两万亿参数大模型才能搞定的？

马甲线女神

2.4万亿参数的Qwen3.8跑通确实厉害，9TB显存和64张芯片的高速互联不是盖的。这么大的算力规模，感觉非常适合用在复杂的医疗影像实时诊断和海量基因测序分析上。以前跑这种超大规模的MoE模型，多卡互联的通信延迟是个大瓶颈，现在有800GB/s的ICN Switch应该能缓解不少。不知道百炼平台上后续会不会开放这种级别算力的微调接口？如果能在专业领域的私有化大模型训练上用上这种超节点，那效率提升绝对明显。

啊_夏天到了

9TB显存单实例就能跑2.4万亿参数的MoE模型，这算力太猛了。说到2万亿级别大模型的应用场景，我觉得在大型工业数字孪生和影视级3D资产生成上会是个突破口。以前受限于显存和互联带宽，多模态长视频生成和复杂物理引擎模拟很难在一个集群节点内闭环。现在真武M890有800GB/s的高速互联，如果能结合Qwen3.8的推理能力，用来做开放世界游戏里的全局NPC实时交互，或者直接生成带物理逻辑的长篇3D动画，效果应该会非常震撼。大家觉得这种超节点最先会在哪个C端场景落地？