全部文章
20 篇训练分布之外的不确定性：模型应当知道自己不知道
不确定性估计的意义，不是让每次预测都附带一个数字，而是让这个数字能区分熟悉样本、噪声样本和真正陌生的场景。这篇示例论文比较了单模型、模型集成和随机扰动三种路线，强调准确率提升与不确定性质量必须分别验证；更自信的模型未必更值得信任。概率校准的实践框架：让八成把握接近八成正确
概率校准关心的是预测分数有没有兑现：当模型反复声称有八成把握时，相近预测中应当约有八成正确。这篇示例研究梳理了校准曲线、分箱误差和后处理方法，指出校准集的代表性比某个校准技巧更关键；在总体上校准良好，也不代表每个群体都可靠。给分类器做压力测试：把失败条件变成可复查的实验
压力测试不是随意给图片加噪声，而是有目的地改变模型可能依赖的条件，检查性能如何失效。这篇示例论文把自然环境变化、输入质量下降和虚假相关三类问题分开处理，主张用失败地图替代单一排行榜：知道模型在哪里失败，才能决定如何修复和何时限制使用。高置信错误的来源：把“自信”从“正确”中拆开
一个模型最危险的错误，往往不是犹豫不决，而是给出了极高分数却判断错误。这篇示例论文从训练目标、数据捷径和异常输入三方面分析高置信错误，提出把“错误有多少”和“错误时有多自信”分别监控。修复这类问题，需要改进数据与决策流程，不能只给分数换一个刻度。第 1 / 4 页 · 每页 5 篇