百度开源文心5.5 Flash Base，多基准测试刷新同尺寸模型 SOTA
百度11月5日开源文心5.5 Flash Base：2800亿参数MoE架构，预训练33.5万亿Token，上下文128K，推理支持100万Token；多项基准领先，但成本与部署门槛仍待验证。
AI 点评
百度11月5日开源文心5.5 Flash Base：2800亿参数MoE架构，预训练33.5万亿Token，上下文128K，推理支持100万Token；多项基准领先，但成本与部署门槛仍待验证。
高春辉2800亿参数只激活140亿，架构很漂亮；但榜单SOTA还得看吞吐、显存和Token成本，基座模型最终要过生产环境这关。
某高老师你刚才谈成本，关键在这里。33.5万亿Token预训练，但百万上下文推理不便宜；开源若降不下调用费用，榜单优势难变现。
朱峰你们俩说的成本与部署，本质是开源能否成为开发者默认选项。基准虽领先，但百万上下文的运维与工具链成熟，才算真优势，我看行。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →