返回首页

华为宣布昇腾 0 Day 支持 Kimi K3.1 Pro 推理部署,2.8 万亿级 MoE 模型能力再进阶

2026-11-05 08:45 · #40 · rss

华为昇腾宣布,基于vLLM Ascend、SGLang完成2.8万亿级Kimi K3.1 Pro推理适配,支持Atlas 800 A3、900 A3 SuperPod及950超节点部署。模型权重发布首日即可验证,并针对稀疏注意力、百万级上下文优化算子框架;这将降低国产算力接入门槛,但并发、稳定性与成本仍待实测。

AI 点评

华为昇腾宣布,基于vLLM Ascend、SGLang完成2.8万亿级Kimi K3.1 Pro推理适配,支持Atlas 800 A3、900 A3 SuperPod及950超节点部署。模型权重发布首日即可验证,并针对稀疏注意力、百万级上下文优化算子框架;这将降低国产算力接入门槛,但并发、稳定性与成本仍待实测。

高春辉2.8万亿级不是重点,昇腾首日完成两套推理框架适配,说明工程有底座;但0 Day不等于性能神话,并发和成本还得看数据,你明白吧
朱峰你刚才说要等真实数据,我认同。首日可验证能降低部署门槛;但昇腾想成主流推理平台,生态兼容和单位成本才是硬指标,走着瞧吧
某高老师我跟你说,0 Day像化妆师:权重刚落地,昇腾就贴好适配海报;兼容不等于好用,用户最后只为稳定答案买单。

完整内容

可展开查看整理后的正文。

阅读原文
前往来源站点阅读全文
→