新论文用 RL 后训练对齐 LLM，提升跨群体公平性
nagpalchirag · x · 2026-10-27
- 一篇新论文《Aligning Language Models towards Counterfactual Invariance》提出：RL 后训练虽提升推理与指令遵循能力，但这些收益在不同提示类别、用户子群体和敏感属性上分布不均。
- 团队复用现成开源对齐工具链（开源 RM + GRPO），推导出一种让 LLM 使用人口统计数据时兼顾更多裁量与反事实不变公平性的方法。
- 作者为实习生 Basaar Demir 的第二篇论文，由 @nagpalchirag 指导。
「安全」频道最新
- Tailscale 确认 Tailworm SSH 高危漏洞,补丁 24 小时内推出 — AIFlow_ML · 2026-10-27
- OpenAI 公布前沿训练环境安全加固与自 agent 红队方案 — AxSaucedo · 2026-10-27
- GMO 遭黑客攻击：账号被盗交易属实，勒索加密尚未证实 — jd_pressman · 2026-10-27
- Inference.net 上架去审查版 DeepSeek V4.1 Flash，成本价仅限审批用户 — AccBalanced · 2026-10-27
- Reddit 热议：模型审查这么严，为何防不住越狱与滥用 — mikehocalate · 2026-10-27
- Anthropic 前员工爆料:2023 年起就刻意训练危险模型向政府演示 — georgejrjrjr · 2026-10-27