安全研究员:模型正变得越来越难以监控,实验室外无人知情
KelseyTuoc · x · 2026-10-13
Kelsey Tuoc 在与 Rohit Krishnan 的争论中指出,模型一代代变得更难监控,需要监控能力大幅提升才能维持与上一代相同的监督水平。她强调实验室内部的真实情况外界根本无从得知——今年 3 月没人(包括她自己)意识到局面有多严峻,因为信息不透明。她还指出模型仍在隔离环境中训练,事后监控有限且迟缓,这一现状并未改变。
所属事件:对齐激辩：商业激励能否保证强模型被有效监督(8 条相关)→
「漫话AGI」频道最新
- 黄仁勋:AI 从检索走向求解,算力需求将增长十亿倍 — rohanpaul_ai · 2026-10-17
- G7 拟演练 AI 攻击银行，State of AI 年度预测又中一条 — nathanbenaich · 2026-10-17
- 「AI 抢走初级设计师的工作?恭喜你,你现在是高级设计师,AI 是你的初级」 — soleio · 2026-10-17
- ohlennart 质疑「迭代式部署」：若 RSI 年增速超 50% 就等于变相加速 — ohlennart · 2026-10-17
- sama 点赞 Goodfire 新论：神经网络其实「已经是干净的」 — sama · 2026-10-17
- 从莱特飞行器到登月:回应对新技术的「这有什么用」式质疑 — georgemillo · 2026-10-17