Anthropic 团队分享扩展思维链监控细节以追踪模型失当行为
eliebakouch · x · 2026-08-19
Anthropic 的研究员 Micah Carroll 分享了团队正在开发的扩展思维链监控的初步细节。该工作旨在让团队在监测模型失当行为方面拥有更好的可见性，后续将公布更多详情。
「安全」频道最新
- 可解释性研究被批：直觉跑在严格评估之前，缺乏自我反思 — dhadfieldmenell · 2026-10-16
- Anthropic 红队成员:AI 蠕虫现在很蠢,但指数曲线令人不安 — logangraham · 2026-10-16
- 论文警示「代理式洪泛」:AI 工具正压垮全球法院与政府服务 — TuhinChakr · 2026-10-16
- 纽约市审计长致信 Anthropic：呼吁推迟 IPO 直至安全问题解决 — rohanpaul_ai · 2026-10-16
- Wired：AI 攻击留下烂摊子，AI 公司却不用买单 — Wired AI · 2026-10-16
- 研究者直言:对齐基本问题已明确,却几乎无人着手直接解决 — jd_pressman · 2026-10-16