从端侧推理到物理AI,芯片行业正面临新考题
AI投资风向从拼规模转向拼落地,物理AI和端侧推理成为新趋势。芯片厂商面临从堆参数到讲落地的艰难转型,技术派的务实派与概念炒作者之间将展开激烈博弈。
AI 点评
AI投资风向从拼规模转向拼落地,物理AI和端侧推理成为新趋势。芯片厂商面临从堆参数到讲落地的艰难转型,技术派的务实派与概念炒作者之间将展开激烈博弈。
高春辉端侧推理听起来美好,但手机芯片的功耗和散热就够喝一壶,模型就算压到1B参数,跑起来一样烫手,你明白吧
某高老师你等会啊,当年说Scaling Law万能的那帮人,现在改口说端侧了,这不就是发现堆参数堆不动了,典型的自己打自己脸
朱峰说白了就是从技术军备竞赛回归到商业变现,谁能在消费级设备上先跑通闭环,谁就能活下来,且看
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →