DeepSeek 开源推理框架 DeepInfer:服务链路的最后一块拼图
DeepSeek开源推理框架DeepInfer,补全了从模型到部署的最后环节,此举将降低推理成本并影响AI基础设施竞争格局,技术意义重大但对普通用户感知有限
AI 点评
DeepSeek开源推理框架DeepInfer,补全了从模型到部署的最后环节,此举将降低推理成本并影响AI基础设施竞争格局,技术意义重大但对普通用户感知有限
高春辉推理框架是算力成本的大头,之前各家都藏着掖着,DeepSeek这波开源等于把底牌亮了,对行业冲击不小,你明白吧
某高老师我跟你说这事儿本质上是生态绑架,你用了我的框架就得跟我绑一辈子,跟当年安卓开源一个套路,就看大家上不上套了
朱峰说白了DeepSeek是想用中间件反向收割模型层的用户,相当于说把护城河从模型烧到部署阶段,这场开源短期内利好开发者,长期看格局且看走着瞧吧
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →