灵骏线适配月之暗面Kimi K3大模型

发布时间:2026-07-28 19:48

  阿里云今天宣布,灵骏线 超节点实例成功适配 2.8 万亿参数大模型 Kimi K3,基于芯片、推理平台和模型的联合优化,有效提升模型推理效率。

  Kimi K3 是月之暗面最新的旗舰模型,参数规模达到 2.8 万亿,采用混合专家架构。

  而灵骏真武超节点实例基于平头哥训推一体 AI 芯片线 打造,具备 ICN Switch 1.0 互联芯片,可让 64 张 M890 实现 800 GB/s 的 All-to-All 高速互联,显存规模达 9TB,可将万亿级 MoE 模型的 EP 专家并行通信流量,跑在一个高带宽通信域内,保证 Token生成效率。

  同时,阿里云、平头哥和 Kimi 团队从子、软件栈等层面进行深度协同,成功让 kimi K3 模型实现 Day0 适配。真武芯片的 T-Head SAIL 软件栈可让 Kimi 自研 Mooncake 推理框架实现“开箱即跑”,M890 的 Triton 支持也让大量基于 Triton 编写的自定义算子无需重写,大幅降低适配工作量。

排行

精选