返回首页

英伟达发布 1200 亿参数大模型 Nemotron 3.5 Super VL:单 GPU 智能体任务吞吐量最高提升 5 倍,74B 版本压缩至 24GB

2026-10-15 23:19 · #32 · rss

英伟达发布1200亿参数MoE大模型Nemotron 3.5 Super VL,单GPU智能体任务吞吐量最高提升5倍,74B版本压缩至24GB。该模型将推理、指令遵循、工具调用与多模态理解整合,面向持续运行的AI智能体,老高认为这是软硬协同优化的典型案例,某高老师质疑参数军备竞赛的实际价值。

AI 点评

英伟达发布1200亿参数MoE大模型Nemotron 3.5 Super VL,单GPU智能体任务吞吐量最高提升5倍,74B版本压缩至24GB。该模型将推理、指令遵循、工具调用与多模态理解整合,面向持续运行的AI智能体,老高认为这是软硬协同优化的典型案例,某高老师质疑参数军备竞赛的实际价值。

高春辉1200亿参数MoE架构,激活120亿,吞吐量提升5倍,这数据很英伟达。你明白吧
某高老师不是,所有厂商都在堆参数,但普通人用得到吗?最后还不是API调用,参数大不大跟你我有啥关系
朱峰其实这件事本质上是一个软硬绑定的新样板——模型帮GPU卖货,GPU帮模型跑通落地走着瞧吧

完整内容

可展开查看整理后的正文。

阅读原文
前往来源站点阅读全文
→