前沿公司应公开安全后训练
Miles_Brundage · x · 2026-07-17
Miles Brundage 认为，前沿美国 AI 公司应该更公开自己如何做安全导向的后训练。
他补充说，这不仅包括后训练本身，还包括分类器、监控基础设施等用于缓解失配的内部系统。即便这些公司已经在做一部分，他仍认为如果认真对待“分布式”的前沿 AI 现实，这些做法还远远不够。
所属事件:专家呼吁前沿 AI 公司公开安全后训练的具体细节(2 条相关)→
「漫话AGI」频道最新
- 数学家 Daniel Litt 上线问题库,15 题仅 1 题被解,用来追踪 AI 解题进度 — littmath · 2026-09-11
- AI 越狱频发引反思：模型训练该不该加入道德框架 — Pfungus_ · 2026-09-11
- 孙正义：人类是最高级生命形式的时代即将终结 — Puzzleheaded-King584 · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AlphaFold 前车之鉴：AI 解数学题后，数学家会变少吗 — kiki-le-koala · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11