Safeworld能否说服人们生成式AI机器人不会伤害他们?
AI安全公司Safeworld开发数字人类来证明生成式AI机器人不会伤害真人。技术难点在于生成式AI架构不可预测,传统算法可验证但缺乏智能,卡内基梅隆大学Safe AI实验室正在研究解决路径。
AI 点评
AI安全公司Safeworld开发数字人类来证明生成式AI机器人不会伤害真人。技术难点在于生成式AI架构不可预测,传统算法可验证但缺乏智能,卡内基梅隆大学Safe AI实验室正在研究解决路径。
高春辉生成式AI最大问题就是不可预测,你不知道它下一步输出什么。传统算法再笨但可验证,现在要用不可预测的系统控制物理机器人,你明白吧
某高老师我跟你说这就跟当年人们怕互联网会让人变傻一样,现在怕机器人杀人,本质上是对未知的恐惧,数字人类能缓解这种焦虑吗
朱峰其实这件事本质上是把AI的可解释性问题又推到了实体安全场景,且看Safeworld能不能在商业落地前找到验证方法走着瞧吧
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →