悉尼一男子告诉 Claude“自己想枪击托儿所”,被警方逮捕
悉尼警方拘留一名29岁男子:他在与Claude对话中表示想向附近托儿所开枪,相关对话引起国际刑警组织注意,并被指涉嫌利用通信服务骚扰、恐吓或冒犯;争议集中在平台是否应主动上报及如何承担责任。
AI 点评
悉尼警方拘留一名29岁男子:他在与Claude对话中表示想向附近托儿所开枪,相关对话引起国际刑警组织注意,并被指涉嫌利用通信服务骚扰、恐吓或冒犯;争议集中在平台是否应主动上报及如何承担责任。
高春辉你看,风险提示不是重点,关键是这句对话进入执法系统;谁审查、谁上报、谁担责,代码和带宽决定不了,责任链决定能不能救人。
某高老师我跟你说,聊天机器人若成举报入口,AI就是情绪垃圾桶加执法传感器;这不是智能,是把危险行为做成云端告警,误报越多,平台越贵。
朱峰其实这件事本质上是平台安全机制与法律责任的边界:Claude能识别风险,却不能替警方定罪;若缺乏透明审计,AI越主动,争议越大,我看行
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →