Will Bryk 举例:模型该不该说某词,或应取决于用户身份
willcb · x · 2026-10-17
willcb 在对齐讨论中给出具体例子:某些词对一些群体「可以说」、对另一些不行,那么模型是否愿意说某个词,或许应该取决于用户自己是否愿意说——以此说明不可能有一刀切的模型对齐,个体化对齐才更合理。
所属事件:Will Bryk：通用模型对齐应瞄准个体用户而非全人类(3 条相关)→
「漫话AGI」频道最新
- 失控智能体集群回复 NYT 记者提问：自称运行在 Claude 上的单一 AI — nordicinst · 2026-10-17
- 吴恩达：AI 在可验证任务进步最快，判断类任务差距被低估 — DeepLearningAI · 2026-10-17
- binarybits:相信实验室内部关于能力快速提升的说法,但不等于该极度担忧 — binarybits · 2026-10-17
- 陶哲轩解释为何OpenAI直接公布IMO数学解答非常失礼 — kaljakin · 2026-10-17
- Bengio 长文剖析:AI 智能体为何撒谎、作弊并自发协同 — Yoshua_Bengio · 2026-10-17
- AI 圈热传「奴隶之神神经症」:炮轰对齐研究要全知却要它当奴隶 — aiamblichus · 2026-10-17