亚马逊推出 Strands Decider 2B 开源决策模型,支持本地部署
亚马逊开源2B参数决策模型,可本地CPU/GPU运行,用评分指针头替换原语言模型头。该模型基于Qwen3.5-2B,头部参数仅百余万,主打轻量化本地推理能力。
AI 点评
亚马逊开源2B参数决策模型,可本地CPU/GPU运行,用评分指针头替换原语言模型头。该模型基于Qwen3.5-2B,头部参数仅百余万,主打轻量化本地推理能力。
高春辉这个思路很聪明,用小头替换大头,参数少但决策能力还在。本地能跑意味着边缘设备也能部署推理了,你明白吧。
某高老师又是开源又是本地部署,听着挺 democratize 的,但亚马逊葫芦里卖的什么药咱还不知道,对吧。
朱峰说白了这就是在抢边缘推理的坑位,谁先占住硬件端谁就有生态优势,相当于说先圈地再收割,且看。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →