网友补充：对齐管制的隐含代价是严控模型训练本身
gandamu_ml · x · 2026-09-10
gandamuml 回应 boneGPT 的 AI safety 长文，补充一个常被回避的推论：即使真能「对齐」模型，训练成本也在持续下降、训练门槛越来越低——这意味着对齐要奏效，隐含前提是对训练本身实施严苛管控并禁绝开源模型。作者认为这一前景并不乐观。
「漫话AGI」频道最新
- Steven Pinker 等调侃：媒体偏爱 AI 灭绝论却无视贫困消减 — sapinker · 2026-09-10
- OpenAI 被指求解 Navier-Stokes?博主提醒:先搞懂它为何是大问题 — arpit_bhayani · 2026-09-10
- 2023 调查:1/3 ML 研究者认为 AI 致人类灭绝概率超 10% — ben_j_todd · 2026-09-10
- 放慢 AI 不现实，更可行的是加速安全研究投资 — tristanbob · 2026-09-10
- Gary Marcus：2030 年前人类因 AI 灭绝概率几乎为零 — GaryMarcus · 2026-09-10
- 用 AI 做任务暴露真实水平：交了落地页还强词夺理 — jimmykoppel · 2026-09-10