返回首页

guilds.run

2026-10-09 17:00 · #101 · rss

文章指出当前LLM被设计成能够拒绝回答,但人们过度信任AI的说不能力,实际上这种拒绝只是安全训练的结果,并非真正的自主判断。作者警告不应将AI的拒绝等同于价值判断,更不能因此放松对AI系统的监管警惕。

AI 点评

文章指出当前LLM被设计成能够拒绝回答,但人们过度信任AI的说不能力,实际上这种拒绝只是安全训练的结果,并非真正的自主判断。作者警告不应将AI的拒绝等同于价值判断,更不能因此放松对AI系统的监管警惕。

高春辉现在大模型说不的能力,根本就是训练时故意设置的安全阈值在起作用,并不是真的有了自主意识,说白了就是一个概率判断你明白吧
某高老师你等会啊,这让我想起《2001太空漫游》里的HAL9000,人类总是既希望机器有主见,又害怕它真的不听话,这种矛盾从来没变过
朱峰所以现在与其说AI会说不,不如说它学会了在某些场景下模仿说不,本质上还是个输出过滤机制,相当于说

完整内容

可展开查看整理后的正文。

阅读原文
前往来源站点阅读全文
→