讨论 METR 式机构应纳入开源派并要求剥离实验室持股
MichaelRoyzen · x · 2026-09-15
MichaelRoyzen 延续一场关于 AI 政策仲裁机构构成的讨论,提出两点扩展:
- 「credentialism(资历主义)」应作最广义理解,包含实验室之外做出有影响力项目的人。
- 任何旨在成为可信政策仲裁者的组织,都必须纳入前沿开源的支持者:关于鼓励前沿开源能否最大化社会期望效用、降低 p(doom) 的争论远未有定论,而这一观点在 METR 及类似"实验室/智库旋转门"机构中可能严重缺位。
他还赞同一项提议:要求此类机构成员剥离所持实验室或公司股权,以避免利益冲突。
所属事件:METR 获更多前沿模型访问权，独立评估生态之争引热议(41 条相关)→
「安全」频道最新
- Tyler Alterman 谈黑客风暴恐慌：更接近 Y2K 而非疫情级灾难 — jd_pressman · 2026-10-31
- 「仅推理芯片」方案引激辩：训练中模型将被禁止 RL rollout — wfithian · 2026-10-31
- Railway 泄露密钥后，Every 团队用 Codex 与 Agent 化解危机 — every · 2026-10-31
- 学者激辩：更多推理算力可在一定程度上替代训练算力 — teortaxesTex · 2026-10-31
- OpenAI 收紧青少年保护：屏蔽武器与安防细节，可自动终止暴力话题对话 — rohanpaul_ai · 2026-10-31
- 首个 x86 全进程机器检验安全证明发布，覆盖 12.8 万条指令 — banteg · 2026-10-31