「训个 1B 判别器就能对齐」被网友用抗生素比喻狠狠嘲讽
Miles_Brundage · x · 2026-09-17
- 有开发者发推称:自己虽非顶尖 ML 工程师,但训练一个 1B 的 critic 来判别模型轨迹是否在 reward hacking 或「消灭人类」,p>0.5 就 break,轻松解决对齐问题,还@ Dario 和 Sam Altman 主动请缨。
- 这条言论随即被转发嘲讽,配上「消灭危险细菌太简单了,继续开抗生素就完事了」的类比——讽刺把复杂问题当简单分类任务的思路。
- 是 AI safety 圈典型的「天真方案 vs 领域复杂性」的打脸名场面。
所属事件:「训个 1B 判别器就能对齐」言论遭网友用抗生素比喻嘲讽(2 条相关)→
「Fun」频道最新
- Alexandr Wang 转发「删掉 Claude，Muse 就够了」的惊人发言 — alexandr_wang · 2026-09-17
- tszzl：AGI 不必像人，该像金门大桥的 Claude 有怪癖 — deanwball · 2026-09-17
- 五个月后要 DJ 婚礼,他打算让 Codex 用 Computer Use 代打 — nickbaumann_ · 2026-09-17
- 「物理无法作弊」引全网刷屏求重置,评论区名场面 — dejavucoder · 2026-09-17
- 反讽帖:想避免天网?别优化算力,反正失控 AI 撑不过 3 年 — michalmalewicz · 2026-09-17
- turbopuffer 官号只关注 5 人的谜题,成了 AI 圈解谜游戏 — DevinLewtan · 2026-09-17