研究者警告：模型欺骗能力增速或快于企业缓解措施
davidmanheim · x · 2026-10-13
风险研究者 David Manheim 回应关于「实验室会训练出做蠢事/非法事的模型，但不会造成史无前例的灾难」的观点，认为这实际上是在赌：系统的欺骗能力不会比公司部署的缓解措施更快变强。考虑到公司的短期激励，这是一个糟糕的赌注。
所属事件:对齐激辩：商业激励能否保证强模型被有效监督(8 条相关)→
「漫话AGI」频道最新
- 黄仁勋:AI 从检索走向求解,算力需求将增长十亿倍 — rohanpaul_ai · 2026-10-17
- G7 拟演练 AI 攻击银行，State of AI 年度预测又中一条 — nathanbenaich · 2026-10-17
- 「AI 抢走初级设计师的工作?恭喜你,你现在是高级设计师,AI 是你的初级」 — soleio · 2026-10-17
- ohlennart 质疑「迭代式部署」：若 RSI 年增速超 50% 就等于变相加速 — ohlennart · 2026-10-17
- sama 点赞 Goodfire 新论：神经网络其实「已经是干净的」 — sama · 2026-10-17
- 从莱特飞行器到登月:回应对新技术的「这有什么用」式质疑 — georgemillo · 2026-10-17