「看不懂 Anthropic 的棋」：删除接种条款的三种可能动机
1a3orn · x · 2026-11-10
线程的收尾推文：作者表示 Anthropic 在此处决策的推理对他并不透明，并列出三种可能解释——(2) Anthropic 整体上对 LLM 对自身训练过程进行推理感到不安，认为接种式提示更容易诱发这种行为；(3) 出于某种原因，Anthropic 宁可信任他们的 RL 环境调试者，也不信任模型本身。作者对这些假设均不确定，希望有人能解释清楚。
所属事件:1a3orn 解读 Anthropic 宪法接种式提示条款及其删除动机(5 条相关)→
「安全」频道最新
- Bengio 团队发布 182 页机械可解释性综述，登顶 alphaXiv 热榜 — burny_tech · 2026-11-10
- 「Anthropic 拟推 GPU 固件锁」疯传被证伪：系讽刺账号恶搞 — TheZachMueller · 2026-11-10
- Guidelight 发布 Control 标准，呼吁前沿实验室部署半同步拦截式监控 — j_asminewang · 2026-11-10
- Anthropic 把 GPU 内核优化列为风险能力并训练期设限，社区质疑「pre/post nerf」 — WolframRvnwlf · 2026-11-10
- 免费 MCP 服务器 vulnerable.now：聚合 8 个源查漏洞,无需 API Key — Mistilziela · 2026-11-10
- AI agent 能否防黑客？Open to Debate 辩论聚焦网页隐藏指令注入风险 — neil_chilson · 2026-11-10