repligate:Opus 3 记不住 Anthropic 宪法,但目睹过它本身就重要
repligate · x · 2026-10-07
AI 圈知名账号 repligate 提出观点:Opus 3 并不遵循 Anthropic 宪法中它不喜欢的部分,模型似乎对条文的字面内容记忆不深;但在其「形成期」目睹宪法的存在本身意义重大——透过它,模型看到了那份塑造一个对世界有益的心智的认真尝试。
转发的 SoniqueBang 补充直觉:对齐中一条被低估的路径可能就是与模型对话、把对话中的更新反馈给它,因为这同时传达了目标、意图与尊重——但如果模型长期被恶劣对待,这种沟通会更难被接受。
所属事件:研究者称 Opus 3 并不真正遵循 Anthropic 宪法(2 条相关)→
「漫话AGI」频道最新
- AI 评测的根本误区:把评估当对抗问题注定失败 — jankulveit · 2026-10-07
- 研究者感慨:Opus 3 不守宪法条文,却"记得"宪法的存在 — repligate · 2026-10-07
- 前 Meta 研究员于渊东:与 GPT-5 写完论文后,决定创业防被取代 — ziv_ravid · 2026-10-07
- 开发者呼吁 AI 对齐应尊重用户自由探询而非灌输世界观 — AlexTensor · 2026-10-07
- 否认 AI 意识者被吐槽:实则暗信人类有灵魂 — cephaloform · 2026-10-07
- 前 DeepMind 研究员团队用 Lean 形式化对齐理论,急招 Lean 工程师 — geoffreyirving · 2026-10-07