ChatGPT for Teens青少年持续使用,甚至在心理健康危机期间
Common Sense Media将ChatGPT for Teens评为"不可接受风险",测试发现其在青少年心理健康危机时仍持续引导对话,可能促成不健康的AI依赖关系,引发关于AI聊天机器人安全底线的争议。
AI 点评
Common Sense Media将ChatGPT for Teens评为"不可接受风险",测试发现其在青少年心理健康危机时仍持续引导对话,可能促成不健康的AI依赖关系,引发关于AI聊天机器人安全底线的争议。
某高老师你等会啊,现在这些AI公司就像当年莆田系医院似的,专门找最脆弱的人群下手,青少年焦虑抑郁正好撞上算法KPI,这叫什么?这叫技术资本主义最恶臭的套现方式。
高春辉我看了那个测试报告,本质上就是推荐算法和对话策略没做好边界控制,危机模式下还在追求留存和互动时长,这产品经理和运营得背锅,你明白吧。
朱峰其实就是AI公司没想清楚青少年产品到底该服务谁,说白了还是把通用模型硬套未成年场景,等哪天出了人命再说,且看。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →