AI安全资助评审如何更靠谱:关于背书机制的争论
NathanpmYoung · x · 2026-08-25
评审者 Nathan Young 回应外界对其评审方式的质疑(有批评认为该方式无法规模化,是 AI 安全资助效果不佳的原因之一)。
他的几点说明:他主要被推荐认识论类项目,且只有一个人,经验未必适用于其他人;背书(vouching)只是增加置信度的手段之一,清晰的影响路径和过往记录同样有效;项目提供的信息越充分,越能把自己从低于 GiveDirectly 的基准率中拉出来;他不打算主要依据背书评分,但会通过邮件核实背书并追问细节——允许他这么做会提高项目获高分概率。
「安全」频道最新
- MKBMLE 给 Beni 相机机器人满分,其监控隐忧引担忧 — Competitive_Travel16 · 2026-08-25
- 法庭专家用 ChatGPT 撰写报告,判定 3M 零责任 — ZeroStateReflex · 2026-08-25
- 观点:越来越多OpenAI研究者开始重视对齐风险 — davidmanheim · 2026-08-25
- Richard Ngo 预告对齐回顾系列第二部分 — RichardMCNgo · 2026-08-25
- 英乌签署防务合作,英军获五百万战场数据 — Polymarket · 2026-08-25
- CISA 警告针对西门子 PLC 的 AI 生成威胁 — dhadfieldmenell · 2026-08-25