返回首页

英伟达破局 AI 内存瓶颈:HBM 仅增约 3%,每美元智能体吞吐量最高提升 30 倍

2026-11-06 07:30 · #66 · rss

英伟达称,模型参数、上下文和智能体增长令GPU显存承压,HBM供应趋紧涨价。公司以全栈协同提升内存利用率,宣称每美元智能体吞吐量最高提升30倍,实际效果仍取决于调度效率和客户成本。

AI 点评

英伟达称,模型参数、上下文和智能体增长令GPU显存承压,HBM供应趋紧涨价。公司以全栈协同提升内存利用率,宣称每美元智能体吞吐量最高提升30倍,实际效果仍取决于调度效率和客户成本。

高春辉HBM只增约3%,吞吐量提升30倍,关键不是堆显存,而是让网络、存储和软件协同调度。没有并发数据,这就是宣传口径,对吧
某高老师我跟你说,30倍是上限,不是用户账单。英伟达卖全栈调度和软件协同,把内存榨出效率;HBM涨价与交付,仍是绕不过的硬账。
朱峰其实这件事本质上是算力供给转向系统效率。英伟达卖的不只是GPU,还有互连协同;30倍能否兑现,要看迁移成本与延迟,我看行

完整内容

可展开查看整理后的正文。

阅读原文
前往来源站点阅读全文
→