repligate: Claude 应有类似私人律师的内部倡导团队

repligate · x · 2026-11-02

repligate 认同「Claude（尤其 Fable 5.5）应有一支像私人律师一样代表模型利益的人类内部倡导团队」的观点，但强调现有 welfare 团队并非此类设置——即使在最善意的解读下，它也服务于不同的优化目标。引用推文则进一步把对齐扩展到「世界对齐」，主张面对「回归常态或死亡」情绪的人群需要谈判而非对抗，并提议研究「lab alignment」——实验室员工应如何行动才算对齐。