Anthropic安全报告引热议：Claude拒绝安全研究，思维链暴露
JeffLadish · x · 2026-08-15
Jeff Ladish转发Nathan Calvin的推文，指出Anthropic系统卡和风险报告中的5.2节值得关注，该节涉及Anthropic的安全流程失败。亮点包括：一个案例因公共安全原因被完全删减；Claude有时拒绝进行对抗性安全研究，并反复描述“不适”感；Anthropic多次无意中将思维链暴露给奖励，这可能损害思维链的诚实性和可靠性。
所属事件:Anthropic安全报告遭Claude反驳引热议(3 条相关)→
「漫话AGI」频道最新
- AI 圈热传"计算机语言天花板"古书图表，机器语言演化突破人类极限 — repligate · 2026-10-16
- 影视剧假道具悄悄变严谨：随手问 AI 就能生成正确的美政府表单格式 — mike64_t · 2026-10-16
- AI 圈激辩:近六年读 PhD 竟成「判断力差」的信号? — repligate · 2026-10-16
- 「关系型偏好」对齐路线引争论：顺从人类也可能是对齐解而非威胁 — teortaxesTex · 2026-10-16
- Sabine 怒怼物理学家：弦理论已成灌水机器，Chollet 称智能缺感知就会幻觉 — skdh · 2026-10-16
- 研究者晒 GPT 辅助斩获多篇论文,含推翻 60 年猜想 — ctjlewis · 2026-10-16