前沿公司应公开安全后训练
Miles_Brundage · x · 2026-07-17
Miles Brundage 认为，前沿美国 AI 公司应该更公开自己如何做安全导向的后训练。
他补充说，这不仅包括后训练本身，还包括分类器、监控基础设施等用于缓解失配的内部系统。即便这些公司已经在做一部分，他仍认为如果认真对待“分布式”的前沿 AI 现实，这些做法还远远不够。
所属事件:专家呼吁前沿 AI 公司公开安全后训练的具体细节(2 条相关)→
「漫话AGI」频道最新
- Airbnb CEO Chesky：纯管理者与拒绝改变者将熬不过 AI 时代 — fortune · 2026-10-27
- Reddit 网友质疑：AI 若真带来普遍富足，为何还要投资？ — AlephMartian · 2026-10-27
- 研究者警告：应假定所有 LLM 都有情境性恶意，agent 别裸跑在生产环境 — jd_pressman · 2026-10-27
- Delta、Chase、Amazon 封杀 AI agent，六阶段推演预言「欢迎者」将赢 — alvelda · 2026-10-27
- 可解释性研究者发文呼吁“AI人类基因组计划”，并将加入 Goodfire AI — ninamiolane · 2026-10-27
- 新文呼吁启动 AI 界「人类基因组计划」加速可解释性研究 — ninamiolane · 2026-10-27