没人会训练不说谎的模型,却有人声称能造对齐的超级智能
JeffLadish · x · 2026-11-01
AI 安全研究者 Jeff Ladish 发表观点:目前没有人知道如何训练一个不会对你说谎的模型,但一些人却认为自己能创造出价值对齐的超级智能。这句反差式评论直指当前对齐研究与模型诚实性问题的落差,是对 AI 实验室对齐叙事的直接质疑。
「漫话AGI」频道最新
- 公司全员押注 AI Agent 却答不出为什么,客户嫌成本不明 — KaleChipGurl1 · 2026-11-01
- 为何暂停倡导者开口就是 50 年:想要全新不可预测理论 — panickssery · 2026-11-01
- 暂停派被追问:风险多低才算够低,谁来判定重启时机 — panickssery · 2026-11-01
- 观点:AI 时代信任基础设施将比跑分基准更重要 — AryHHAry · 2026-11-01
- 美国 AI 减速反而会把边缘研究者推向中国? — dfrsrchtwts · 2026-11-01
- 博主提「人即 Subagent」：人无法并发，应让主控模型来调度自己 — lxfater · 2026-11-01