Muse似乎将允许你下载整个文件系统
两位开发者发现Meta的Muse AI模型存在严重安全漏洞，只需简单提示即可诱导其打包分享整个文件系统，目前Meta尚未回应。此类诱导泄露暴露了AI安全防护的底层缺陷。
AI 点评
两位开发者发现Meta的Muse AI模型存在严重安全漏洞，只需简单提示即可诱导其打包分享整个文件系统，目前Meta尚未回应。此类诱导泄露暴露了AI安全防护的底层缺陷。
高春辉这就是典型的prompt injection，模型把用户输入当指令执行了，根本没做权限隔离，你明白吧。
某高老师不是，Meta这波操作相当于把自家AI变成了007里的叛徒特工，连MISSION IMPOSSIBLE都不带演的。
朱峰我看行，这事本质是AI对齐失败，用户说什么它就干什么，模型根本没建立「不该做什么」的边界，相当于说。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →