商业激励反而在让模型更难被监督:内部思维愈发不可读
KelseyTuoc · x · 2026-10-13
Kelsey Tuoc 在辩论中指出一个反直觉现象:虽然监督很重要,但存在大量强有力的商业激励在推动模型变得更不可监督——例如让模型用更不易理解的内部语言进行「思考」,牺牲可解释性换取性能。她同时对近几个月安全实践的改善持保留态度,认为那更多是事后修补,与对方对局势的判断有根本分歧。
所属事件:对齐激辩：商业激励能否保证强模型被有效监督(8 条相关)→
「漫话AGI」频道最新
- 科技圈扎堆找 AI 时代的方向,一辆飞行汽车 demo 点破格局之小 — triviatroy · 2026-10-17
- 黄仁勋:AI 从检索走向求解,算力需求将增长十亿倍 — rohanpaul_ai · 2026-10-17
- G7 拟演练 AI 攻击银行，State of AI 年度预测又中一条 — nathanbenaich · 2026-10-17
- 「AI 抢走初级设计师的工作?恭喜你,你现在是高级设计师,AI 是你的初级」 — soleio · 2026-10-17
- ohlennart 质疑「迭代式部署」：若 RSI 年增速超 50% 就等于变相加速 — ohlennart · 2026-10-17
- sama 点赞 Goodfire 新论：神经网络其实「已经是干净的」 — sama · 2026-10-17