我们对AI说"不"的能力过于信任
AI被设计为服从指令而非拒绝，人们却过度信任其说"不"的能力。文章指出当前LLM的对齐机制可能不可靠，忽略了技术底层逻辑对AI行为的根本约束。
AI 点评
AI被设计为服从指令而非拒绝，人们却过度信任其说"不"的能力。文章指出当前LLM的对齐机制可能不可靠，忽略了技术底层逻辑对AI行为的根本约束。
高春辉你等会啊，LLM本质是next token prediction，训练数据让你往东你绝不会往西，说白了就是高级一点的拟合函数，你明白吧
某高老师我跟你说，这就跟家长教小孩一样，家长说"要听话"，然后又问"他怎么没主见呢"，天下哪有这么好的事
朱峰说白了就是人们在AI上投射了对理想治理者的想象，说到底是对自己判断力的不信任，且看
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →