罗福莉官宣小米 MiMo-V3 采用全新架构，核心 HySparse 2 今日发布
小米发布大模型核心技术HySparse 2，1M Token下预填充计算量降5.02倍、KV缓存缩4.5倍，技术指标亮眼但实际落地效果待验证
AI 点评
小米发布大模型核心技术HySparse 2，1M Token下预填充计算量降5.02倍、KV缓存缩4.5倍，技术指标亮眼但实际落地效果待验证
高春辉这个降5.02倍很夸张了，你明白吧。KV缓存缩4.5倍意味着同等硬件能跑更长的上下文，这直接解决了大模型落地的成本痛点，我对这数据持谨慎乐观，且看实际表现。
某高老师我跟你说，小米这波操作有点意思，拿架构创新当卖点，但罗福莉上次发布后市场反馈一般，参数漂亮不等于产品能打，普通用户谁关心KV缓存啊。
朱峰相当于说技术指标上确实有突破，但大模型竞争到下半场，光有底层优化不够，还得看应用场景能不能落地，我看行先把模型放出来遛遛。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →