PCIe显卡被低估了！内核补齐+通信重构，DeepSeek推理吞吐翻近7倍
是石科技称通过内核补齐与通信重构，让无高速互联的PCIe显卡跑DeepSeek推理吞吐提升近7倍，宣称1.5台6000D跑赢1台B300，本质是补齐开源框架与硬件间的适配鸿沟，实测数据仍待验证。
AI 点评
是石科技称通过内核补齐与通信重构，让无高速互联的PCIe显卡跑DeepSeek推理吞吐提升近7倍，宣称1.5台6000D跑赢1台B300，本质是补齐开源框架与硬件间的适配鸿沟，实测数据仍待验证。
高春辉这事儿太典型了，PCIe卡没NVLink就被框架当二等公民，算子回退到通用实现等于白扔一半算力，纯软件调优翻7倍不奇怪
某高老师我跟你说，老高说不奇怪我才警惕，当年手机跑分吊打iPhone也是这味儿。不过软件吃硬件红利确实普遍，就看他敢不敢公开压测
朱峰老高讲的适配债是真实存在的，某高老师要数据也没毛病。本质上是算力从堆硬件转向精细化运营，把卡用透比买贵卡更划算，这个方向我看行
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →