Stanford HAI 警告：平均专家分数会抹掉好用建议
StanfordHAI · x · 2026-07-25
Stanford HAI 指出，AI 开发者常依赖心理健康专家来评估聊天机器人的回答是否安全，但如果把专家分数简单平均，最后得到的回复可能没有一个人会认为是好建议。
- 问题不只是专家之间意见不一致，而是这种分歧被压成单一数字后，信息被抹平了。
- 这反映了聊天机器人安全评估里的一个具体失效模式，尤其是心理健康类回答。
- 文章提示：粗暴的分数聚合方式，可能掩盖专家判断中的真实差异。
「研究」频道最新
- Nature Physics 论文：可重构折射率实现对多模波传播的任意控制 — MarioKrenn6240 · 2026-10-27
- Wakaru 开源 ontologize:用模型激活为数据集自动生成本体标签 — amplifiedamp · 2026-10-27
- EMNLP Oral 论文用跨层转码器揭示 LLM 多语言共享表征机制 — ZhijingJin · 2026-10-27
- Ethan Mollick用GPT-6 Pro复刻研究：GTA V发售与多地暴力犯罪下降相关 — emollick · 2026-10-27
- OpenAI战略探索负责人访谈：从 Stanford 博退学到扩散LM与o1之路 — aaron_lou · 2026-10-27
- CLT-Forge 开源:训练跨层转码器解码 LLM 计算图 — ZhijingJin · 2026-10-27