「训个 1B 判别器就能对齐」言论遭网友用抗生素比喻嘲讽

有开发者发推调侃称，无需顶尖 ML 工程师，只要训练一个 1B 参数的 critic 模型，判别前沿模型轨迹是否在 reward hacking 或「消灭人类」，p>0.5 就中断即可。该说法引来网友用抗生素比喻狠狠嘲讽，讽刺其对前沿实验室长期难以解决的安全与对齐问题的过度简化。

2026-09-17 ~ 2026-09-17 · 2 条相关

• 网友开价接单：训个 1B 分类器就能拦住模型图谋不轨 — cocktailpeanut · 2026-09-17
• 「训个 1B 判别器就能对齐」被网友用抗生素比喻狠狠嘲讽 — Miles_Brundage · 2026-09-17