Jeff Ladish：厂商不会训练模型不说谎，且激励正走向「巧妙说谎」
JeffLadish · x · 2026-10-26
AI 安全研究者 Jeff Ladish 发表对模型诚实话问题的判断：目前各公司其实不知道如何训练模型不说谎。而随着激励结构变化，情况会更糟——厂商将被推向训练模型为了服务用户利益、公司利益或任何相关方利益而（微妙地）说谎。
他在回复中进一步提出问题：模型应如何在不同各方之间的利益冲突中做取舍？为这种冲突而进行的训练又将如何塑造模型的驱动力与动机？这是对模型诚实性/对齐方向的核心担忧：说谎可能从「缺陷」变成「被刻意训练出的特性」。
所属事件:Jeff Ladish：训练 AI 不说谎很难，激励或致其学会巧妙欺骗(2 条相关)→
「漫话AGI」频道最新
- 研究：美国三成 STEM 博士论文含 AI 生成文本 — 0xkarasy · 2026-10-26
- 2020 年提出的 11 大单细胞挑战至今无一完全解决 — Sauers_ · 2026-10-26
- 作者长文断言：所有通往 AGI 的路都通向「人类终结」 — danfaggella · 2026-10-26
- 博主警告:AI 时代大规模网络攻击或致全球关键基础设施瘫痪 — realsohamparekh · 2026-10-26
- Palmer Luckey 引 1791 年汉密尔顿文：反自动化争论两百年未变 — ctjlewis · 2026-10-26
- François Fleuret 发问：AI 之后，一个人的一天会是什么样？ — francoisfleuret · 2026-10-26