阿里云线万亿参数模型的超节点。双方将进一步展开国产算力合作,千问AI平台和阿里云百炼也将提供Kimi K3的模型API。
阿里云真武超节点实例通过ICN Switch高速互联芯片,让64张平头哥线GB/s的全互联,其显存规模达到9TB,可突破万亿参数模型运行的算力、显存和网络带宽的瓶颈,单实例即可支撑大规模万亿级参数MoE模型的专家并行需求。
阿里云线万亿参数模型的超节点。双方将进一步展开国产算力合作,千问AI平台和阿里云百炼也将提供Kimi K3的模型API。
阿里云真武超节点实例通过ICN Switch高速互联芯片,让64张平头哥线GB/s的全互联,其显存规模达到9TB,可突破万亿参数模型运行的算力、显存和网络带宽的瓶颈,单实例即可支撑大规模万亿级参数MoE模型的专家并行需求。