Drex 模型置信度经校准:标 93% 置信时准确率达 97%,可当信任旋钮用
rohanpaul_ai · x · 2026-11-06
Rohan Paul 指出 Drex 模型的置信度数字是「有意义的」:经校准后,模型说 70% 有把握时,实际正确率就在 70% 左右;Drex Max 在置信度 ≥93% 时,实际正确率达 97%。
这意味着置信度可以作为「信任旋钮」用于工程:软件可以对高置信度的输出自主执行,低置信度的转给人工审核——而普通聊天机器人写的「我比较确定」提供不了这种可量化信号。
配图校准曲线还显示:随机重排选项时只有 4.3% 的 Max 答案会翻转,且准确率几乎不变,翻转的答案多是模型自己已标记不确定的。
「模型」频道最新
- 研究者吐槽:Opus 过度安全拦截,连已有报告的简单问题都触发 — DimitrisPapail · 2026-11-06
- 苹果 GSM-Symbolic 论文:只改名字数字,SOTA 模型数学成绩就大跌 — imjustnewatai · 2026-11-06
- 开发者用 Heretic 微调 Qwen3-4B,回复长度砍半的「惜字如金」模型 — -p-e-w- · 2026-11-06
- Robot RSI 概念走红:让机器人给机器人装环境,实测两大模型能否完成 — qinzytech · 2026-11-06
- 网易有道开源 Confucius4-R2T2:永不改写的低延迟流式语音识别 — dr_cintas · 2026-11-06
- Concept Country 开源 Qwen Concept 27B:权重空间编辑砍 54% 思考 token — GabGarrett · 2026-11-06