人机互补监督研究：3957 项安全任务显示结合人类判断尚无良方
sethlazar · x · 2026-10-29
Anthropic 相关研究者 David Demitri Africa 等发布 arXiv 论文《Towards Human-AI Complementarity for AI Safety》，研究如何「用机器帮助人类监督机器」。核心发现：
- 构建了迄今最大的安全相关任务集：3,957 项任务、覆盖 8 个数据集、6 个领域，并配套评测平台与数据管线
- 收集 416 名标注者的 35,613 条判断，对比有无 AI 辅助下的表现
- 人类与 AI 犯错模式不同，理论上存在互补空间
- 但实测中所有「人机结合」方法要么未能提升表现，要么只是让人类更依赖、趋同于 AI 的判断
结论是 AI 监督难题远未解决，人类评估者面对越来越长、越来越复杂的模型输出，尚缺有效的辅助放大手段。
「研究」频道最新
- 研究者亲历:一个转向向量即可让 RLHF 模型持续输出违禁词 — voooooogel · 2026-10-29
- OpenAI 数学论证仍属原始研究，尚无专家公开评估 — maier_ak · 2026-10-29
- OpenAI 疑用 Lean 形式化数学猜想，尚无专家公开评估 — maier_ak · 2026-10-29
- OpenAI 模型声称以 Lean 形式化证明局部光滑与 Kakeya 猜想 — maier_ak · 2026-10-29
- 传 OpenAI 模型 59 页 Lean 证明包揽局部光滑与 Kakeya 猜想 — maier_ak · 2026-10-29
- UCSB 论文：TTME 用记忆演化替代测试时训练，省 84% 算力还更准 — rohanpaul_ai · 2026-10-29