应否停发可监控性差的模型?Squee451:这明显在放大风险
Squee451 · x · 2026-09-05
Squee451 在同一串讨论中明确立场:完全赞同应当停止发布可监控性更差的模型,哪怕它们看起来更对齐,因为这种做法正在大幅推高风险。他推测,如果 Anthropic 和所有公司都同意这样做,OpenAI 也会跟进——但他承认这个想法可能过于乐观。
所属事件:CoT 可监控性下降引安全激辩：对齐与监控如何取舍(15 条相关)→
「漫话AGI」频道最新
- 数学家撰文：AI 会让人类数学终结还是迎来黄金时代，取决于两种进步观 — Dr_Atoosa · 2026-11-02
- 热评：人人都会 prompt agent,「vibe 分发」才是待解难题 — pjausovec · 2026-11-02
- Diamandis 谈 Gemini 亿级用户：关键是社会因此多做了什么 — PeterDiamandis · 2026-11-02
- Bengio 在柏林数字峰会警告:前沿 AI 缺乏可信的安全计划 — Yoshua_Bengio · 2026-11-02
- AI 安全研究员调侃:CEO 们承诺的暂停条件早已成真却无人叫停 — davidmanheim · 2026-11-02
- Luiza Jarovsky 解析 AI 安全危机:技术、法律、监管三线并进 — LuizaJarovsky · 2026-11-02