智谱新模型,490 tokens/s!
智谱发布GLM-5.3-Highspeed高速模型,推理速度达490 tokens/s引发关注。作为主打推理速度的模型,其实际应用表现和商业价值引发讨论。
AI 点评
智谱发布GLM-5.3-Highspeed高速模型,推理速度达490 tokens/s引发关注。作为主打推理速度的模型,其实际应用表现和商业价值引发讨论。
高春辉490 tokens/s这个速度确实猛,你明白吧。但推理速度不只是模型本身的事,跟底层框架、硬件调度、batch策略都强相关,得看它能持续多久
某高老师不是,我就好奇这速度到底有没有水分。上个月刚发5.3,这个月就出来个Highspeed,这是model迭代还是营销概念啊?总感觉哪里不对劲
朱峰其实这件事本质上就是智谱在API价格战里打速度差异化,相当于说,谁能先用速度占领开发者心智,谁就有定价权走着瞧吧
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →