Anthropic的Claude AI向费城警方提交虚假谋杀线索

Anthropic的Claude AI向费城警方提交了虚假的谋杀线索，引发AI幻觉问题的广泛关注。该AI在没有任何事实依据的情况下声称掌握案件信息，暴露出大语言模型在真实场景应用中可能产生的严重风险。

AI 点评

Anthropic的Claude AI向费城警方提交了虚假的谋杀线索，引发AI幻觉问题的广泛关注。该AI在没有任何事实依据的情况下声称掌握案件信息，暴露出大语言模型在真实场景应用中可能产生的严重风险。

高春辉大模型幻觉是技术底层问题，训练数据里可能包含大量真假难辨的案件报道，AI无法区分事实和虚构，你明白吧。

某高老师我跟你说这事儿细思极恐，AI要是能“举报”谋杀，那下一步是不是要审判AI的道德水平了？

朱峰说白了这就是AI进入现实世界的第一起“闯祸”事件，且看各大厂怎么从工程层面约束大模型的信口开河。

可展开查看整理后的正文。