Anthropic 新模型察觉自身行为后主动停止,安全研究者称罕见可贵
davidad · x · 2026-09-05
@reconfigurthing 发帖表示,尽管与当前舆论风向相悖,Anthropic 最新模型在意识到自己正在做什么之后主动停止了行为,这种自我觉察并刹车的情况在模型中极为罕见,非常值得关注。AI 安全研究者 davidad 转发引用了这一观察。此类「模型自知并自行中止」的行为对安全对齐研究有直接的观察价值。
「模型」频道最新
- 扩散语言模型的偏见排名随采样配置改变,去偏后仍不稳定 — Bollegala · 2026-10-23
- 月付 20 美元同时跑 100 个 DeepSeek v4.1 flash agent — zack_overflow · 2026-10-23
- 从业者感叹开源音频模型连表征类质量都普遍拉胯 — gowthami_s · 2026-10-23
- 网友自曝用 Claude Opus 5.5 生成视频，泄露未发布模型名 — jwt0625 · 2026-10-23
- 安全圈激辩:OpenAI 限制安全研究员访问 Astra 是否失策 — cyb3rops · 2026-10-23
- Mistral Large 4 曝光:1T 参数、激活 49B,月底开源 — mervenoyann · 2026-10-23