Google 研究者谈模型可监控性:投入多少、是否停发难监控模型
sandersted · x · 2026-09-05
Google DeepMind 的 sandersted 在与 @robertwiblin、@tomekkorbak 的讨论中回应批评:团队确实在研究如何让未来模型更可监控(monitorability),且愿意投入更多研究资源。
他点出核心权衡:一是该在这个方向投多少;二是即便现有模型在对齐性和实用性上更好,但可监控性较差,是否应该停止发布。他提到新发布的 Astra 相比 Sol 在对齐性和实用性上是非小改进,因此乐意发布,但承认保守派对此有合理分歧。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「公司和人」频道最新
- 面向小店主的金融科技公司 Affiniti 转型 AI 原生操作系统 — jfiance · 2026-10-21
- CodeRabbit 团队周发 5000 个 PR：机器造机器，招人先看策略游戏时长 — omojumiller · 2026-10-21
- AI 安全研究者 Sören Mindermann 赴清华任教,共创北京 AI 安全中心 — dhadfieldmenell · 2026-10-21
- Runway 入驻 Claude Marketplace,企业可划拨 Anthropic 预算买视频生成 — runwayml · 2026-10-21
- Pichai:所有人算力都严重短缺,谁都希望计划量翻倍 — firstadopter · 2026-10-21
- GitHub HQ 开放闭源之辩:三场辩论开源方全胜,Percy Liang 谈企业专有知识瓶颈 — stanfordnlp · 2026-10-21