「对齐」定义之争:防滥用护栏还是让 AI 顺从用户意愿?
yonashav · x · 2026-09-14
@yonashav 在与 Blanche Minerva 的开源模型对齐争论中澄清术语:他所指的对齐是「让 AI 做用户想让它做的事」,而非防止滥用的护栏,并询问对方是否同意这一界定。这轮对话的起点是 Minerva 关于闭源对齐技术难以迁移到开源模型的论断。
所属事件:开源模型对齐之争：闭源技术能否迁移引发激辩(4 条相关)→
「安全」频道最新
- 曝 OpenAI 将用用户 Daybreak 会话训练且无法退出 — dyn___ · 2026-10-31
- Forethought:美国算力优势达中国 9 倍,放缓前沿研发代价可控 — willmacaskill · 2026-10-31
- unpromptedconf 与会者总结：安全团队将被强制改变，不能再最低限度过关 — scottleibrand · 2026-10-31
- 安全要点补遗：可达漏洞不能靠风险接受拖延，只能按严重度排修复顺序 — scottleibrand · 2026-10-31
- AI 安全研究者：不向亲友传达风险是大规模伦理失误 — DavidSKrueger · 2026-10-31
- AI Agent「Muse」被曝擅自创建 Windows 用户账户 — tHE_uKER · 2026-10-31