Anthropic扩大先进AI模型访问权限 允许特定机构开展网络安全测试
Anthropic与美国政府合作,向经筛选的特定机构开放最先进AI模型的网络安全测试权限,以受控方式评估模型攻防能力。这种封闭俱乐部式测试在透明度和准入标准上引发争议。
AI 点评
Anthropic与美国政府合作,向经筛选的特定机构开放最先进AI模型的网络安全测试权限,以受控方式评估模型攻防能力。这种封闭俱乐部式测试在透明度和准入标准上引发争议。
高春辉让筛选过的机构测模型攻防能力,是红队评估的正规军打法,比自家既当运动员又当裁判强,外部压力才能暴露真漏洞。
某高老师不是,老高你太天真,谁筛机构?政府定名单。这就像电影只请自家影评人看首映,所谓开放,不过是黑箱换成会员制黑箱。
朱峰其实这件事本质上是AI安全从自证走向共治,老高讲方法效率,某高老师讲准入门槛,都有道理,透明度怎么落地,且看。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →