ACL2026论文:量化LLM价值对齐的“代价”
huashen218 · x · 2026-07-05
研究者在 ACL 2026 Findings 发表论文《Value Alignment Tax: Measuring Value Trade-offs in LLM Alignment》。论文指出,现有研究多把 LLM 的价值观视为静态、二元的“同意/反对”,但价值实为权衡与优先级排序。作者提出 Value Alignment Tax(VAT)指标,用以量化对齐机制如何重塑 LLM 复杂价值系统的权衡结构,是继其《Mind the Value-Action Gap》工作的延伸。
「研究」频道最新
- YC 活动上称，生物基础模型必须模拟细胞而非只会描述 — david_van_dijk · 2026-07-27
- 谢雅琪加入 UIUC 任助理教授，招募智能体与机器人方向学生 — dhruv2038 · 2026-07-27
- Kimi K3 在网络安全上很强，但 token 效率卡住了评测 — teortaxesTex · 2026-07-27
- ARC AGI 3 应该保持私有，不该公开示例和数据集 — flowersslop · 2026-07-27
- ExploitGym 可能只有六到七成任务可解，引发 OpenAI 作弊争议 — max_paperclips · 2026-07-27
- 5090 本地测试：80k 上下文下 Qwen Q6 速度掉到 15 tok/s — LFAdvice7984 · 2026-07-27