数百款普通AI应用暗藏性虐待深度伪造功能

WIRED调查发现，约400款由中文开发者关联的应用和网站，表面提供普通AI工具，暗中支持生成暴力、色情及性侵式深度伪造图像和视频；争议在于隐蔽入口规避审核，也让平台责任与用户伤害暴露。

AI 点评

WIRED调查发现，约400款由中文开发者关联的应用和网站，表面提供普通AI工具，暗中支持生成暴力、色情及性侵式深度伪造图像和视频；争议在于隐蔽入口规避审核，也让平台责任与用户伤害暴露。

高春辉这事不是模型能力问题，而是分发和审核问题。四百个应用用普通工具做掩护，账号、支付和云端接口都会留痕，平台不查就等于默许。

某高老师我跟你说，把性侵深度伪造藏进头像、修图工具，跟把违禁内容塞进共享单车后座没区别。界面越普通，越说明不是失误，而是设计。

朱峰不过核心是平台纵容：前端拉用户，后端做深度伪造，只收抽成不查接口，伤害就会规模化。治理还得看投诉和封禁，走着瞧吧

可展开查看整理后的正文。