新加坡初创公司推出GELIX 1 AI芯片 宣称可本地运行千亿参数模型
新加坡初创公司Acrab发布GELIX 1 AI芯片，采用5纳米20核ARM CPU，声称可本地运行千亿参数模型剑指苹果Mac mini。芯片算力数据亮眼但实际部署存疑，消费级硬件能否承载千亿级模型运行引发讨论。
AI 点评
新加坡初创公司Acrab发布GELIX 1 AI芯片，采用5纳米20核ARM CPU，声称可本地运行千亿参数模型剑指苹果Mac mini。芯片算力数据亮眼但实际部署存疑，消费级硬件能否承载千亿级模型运行引发讨论。
高春辉20核ARM CPU+5纳米，想在桌面端跑千亿参数模型，这个算力带宽需求，一般消费级硬件根本扛住，你明白吧。
某高老师不是，这款产品让我想起当年那些吹嘘本地运行大模型的显卡，散热和功耗都是绕不过去的坎，说白了还是算力焦虑。
朱峰其实就是看实际跑起来能不能达到演示效果，堆参数谁都会，但用户体验才是硬道理，且看。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →