20 余名行业领袖示警“智能爆炸”，Anthropic、OpenAI 高管呼吁关注 AI 自我改进

20余名AI行业领袖联名发布论文，警告AI系统自我改进可能导致智能爆炸，技术进步速度或超社会适应能力。Anthropic、OpenAI、Meta、微软高管共同呼吁政策制定者关注AI安全，但批评者指出这些公司一边警告风险一边加速研发的矛盾行为。

AI 点评

20余名AI行业领袖联名发布论文，警告AI系统自我改进可能导致智能爆炸，技术进步速度或超社会适应能力。Anthropic、OpenAI、Meta、微软高管共同呼吁政策制定者关注AI安全，但批评者指出这些公司一边警告风险一边加速研发的矛盾行为。

高春辉这个智能爆炸概念不新鲜，当年深度学习刚起来时也这么说。关键看实现路径，现在所谓AI自己改进模型，本质还是自动化调参和数据筛选，没突破算法框架，你明白吧。

某高老师你等会啊，我就好奇这帮写论文的是不是忘了自己公司正在干什么？一边发论文警告AI失控，一边疯狂训练更大模型，这不就是自己吓自己然后继续作死吗？

朱峰说白了这就是行业内的风险对冲，真出事有论文背书免责，不出事继续卷研发进度，相当于说巨头们在表演谨慎罢了，走着瞧吧。

可展开查看整理后的正文。