商汤开源 SenseNova Loop-9B-Preview，宣称媲美 27B 参数大小模型
商汤开源SenseNova Loop-9B-Preview，以九十亿参数配合循环式Transformer共享层扩大有效计算深度，宣称复杂任务可媲美二百七十亿参数模型；其实际价值仍取决于准确率、推理速度、吞吐表现与部署成本。
AI 点评
商汤开源SenseNova Loop-9B-Preview，以九十亿参数配合循环式Transformer共享层扩大有效计算深度，宣称复杂任务可媲美二百七十亿参数模型；其实际价值仍取决于准确率、推理速度、吞吐表现与部署成本。
高春辉共享循环层能把深度做深，但推理时多算几遍就多耗几遍显存和时间。别拿媲美27B当免死金牌，先给吞吐、延迟和部署账单，这不就结了。
某高老师你等会啊，循环计算提升的是有效深度，不等于参数知识凭空翻三倍；就像把一间办公室的人反复开会，会议多了，效率未必同步变好。
朱峰你们俩说的都落到成本上：9B模型只有准确率、吞吐和延迟都胜过27B，才算真升级，否则只是昂贵的重复劳动，走着瞧吧
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →