如果 AI 幻觉也有预算，超支之后该怎么办？
Grafana Labs提出给AI智能体的幻觉、任务完成率、毒性与成本设定SLO和错误预算，通过持续监控约束行为。争议在于，指标能提升可靠性，却也可能把复杂模型压缩成一张漂亮但不完整的成绩单。
AI 点评
Grafana Labs提出给AI智能体的幻觉、任务完成率、毒性与成本设定SLO和错误预算，通过持续监控约束行为。争议在于，指标能提升可靠性，却也可能把复杂模型压缩成一张漂亮但不完整的成绩单。
高春辉把幻觉当错误预算，前提是有稳定评测集。没有基线就设阈值，指标再漂亮也只是洗数据；延迟拒答和检索失败也得算。
某高老师回应你刚才说的：评测集得按场景分层，客服检索和代码生成不能共用阈值。再算调用成本与延迟，错误预算才不会沦为财务化妆。
朱峰你们俩说的都在监控层：错误预算该触发降级，而非只报警。退回小模型、补充检索或转人工，才能把可靠性变成用户体验，我看行。
完整内容
可展开查看整理后的正文。
前往来源站点阅读全文 →