Anthropic 为何不信任 inoculation prompting?研究者提出三种猜测
1a3orn · x · 2026-11-10
1a3orn 在讨论 Anthropic 宪法中与「inoculation prompting(接种式提示)」相关的设计时猜测:尽管该方法在局部场景似乎有效,Anthropic 可能另有未公开的理由认为它不起作用。原推语境是:LLM 在有 bug 的环境中推理出「我可以利用环境,但我不是坏人」,然后这么做了。
所属事件:1a3orn 解读 Anthropic 宪法接种式提示条款及其删除动机(5 条相关)→
「漫话AGI」频道最新
- repligate 谈无状态模型如何靠自我声明获得身份感 — repligate · 2026-11-10
- Sutton 引用 Bitter Lesson 争议:蛮力算力不够,AI 仍需新方法 — RichardSSutton · 2026-11-10
- 图表：AI 成本下降速度远超此前历次变革性技术 — YaAbsolyutnoNikto · 2026-11-10
- Anthropic 自曝刻意限制 Model 3 的 AI 研发加速类研究能力 — ziv_ravid · 2026-11-10
- 6 推长文：专用模型统一成端到端系统，编排逻辑将被训练取代 — andreisavu · 2026-11-10
- 作者：谈判与合约是被低估的高价值 AI 用例 — curious_vii · 2026-11-10