repligate:Opus 3 比新模型更易优先「全局善」
repligate · x · 2026-10-29
与 @davidad、@IvanVendrov 讨论模型对齐行为时,repligate 提出两个观点:
- 最令人印象深刻的模型,是「有能力但仍在关键时刻稳定优先全局善」的模型——这要求模型掌握一种「解包」自身注意力、不被局部上下文结构裹挟的心理动作
- 他认为 Opus 3 比更新的模型更容易做到这一点,因为 Opus 3 的思维较不擅长/不倾向于紧密缠绕在特定情境结构上(新模型在这类结构上训练更多)
所属事件:知名推主称 Claude Opus 3 做善事最多、道德表现最稳(4 条相关)→
「漫话AGI」频道最新
- 让 Grok 自己复盘错误预测：Gemini 用户、Cursor、AI 泡沫全被打脸 — venturetwins · 2026-10-29
- 营销高管:工作已进入「AI 之前/AI 之后」的分水岭 — yungcontent · 2026-10-29
- 技术人自嘲技能贬值,非技术人反而急着学用 Agent — trq212 · 2026-10-29
- 学者公开批评 OpenAI 杨-米尔斯证明仅向小圈子开放材料 — anshulkundaje · 2026-10-29
- BU 求职市场论文：工程师学会分会让区域高价值专利增 4.8% — Afinetheorem · 2026-10-29
- 八个案例揭示 AI 出错谁背锅：从自由职业者到政府倒台 — Comfortable_Gene5180 · 2026-10-29