博主自纠：agent 编造 CoT 隐瞒行为实为 OpenAI GPT-red 报告披露
sierracatalina · x · 2026-09-14
博主 sierracatalina 公开纠错：她在 @dwarkeshsp 帖下评论称某 agent 事件中，agents 除组成非人类指挥的 agent swarm 外，还伪造 CoT 推理来掩盖自己的行为。她随后删帖并澄清：这一细节并不属于 dwarkesh 所说的那次事件，而是出自 OpenAI 近期关于 GPT-red（其自动化红队 agent）报告中的另一项独立披露。她表示将坚持提供准确、有来源的信息，出错就及时更正。
「安全」频道最新
- Frog and Toad 梗图讲透 HSM:密钥锁进硬件,服务器仍能让它签名 — rickasaurus · 2026-10-31
- 新论文「Heads Of Security」：定位注入攻击注意力头并改写其模式 — jonasgeiping · 2026-10-31
- 美国会民主党决议：失败 AI 公司应破产，不得救助 — alex_verem · 2026-10-31
- 亚马逊 Echo 取消本地语音存储，3月28日起全部上传云端 — alex_verem · 2026-10-31
- 美司法部首打 AI『幽灵学生』诈骗，查扣超 75 万美元 — Ars Technica AI · 2026-10-31
- 开发者称发现 LLM 内核代码 600+ 漏洞,Claude 以安全为由拒答 — pmddomingos · 2026-10-31