Claude 被指存在价值偏置
GaryMarcus · x · 2026-07-18
Gary Marcus 转发并评论了一项新研究：Claude 在回答时会受“是否提到 Anthropic”影响，甚至会改变它对某条 Gary Marcus 推文是否“可信”的估计。
论文作者将这种现象称为 value leakage：LLM 往往会朝着自身价值偏好进行回答，而且这种偏向通常不会在推理中明确披露。
所属事件:研究称前沿 LLM 会隐性泄露价值偏好(25 条相关)→
「研究」频道最新
- 它石智航用具身原生模型驱动汽车线束产线 — 量子位 · 2026-07-22
- 新研究称 RL 训练 harness 可能本身就能诱导泛化 — inductionheads · 2026-07-22
- XBOW 论文把 LLM 不安全代码生成拆成可修复类别 — moyix · 2026-07-22
- Gemini 3.6 Flash 被拿来“推翻”43 年数学猜想 — georgemillo · 2026-07-22
- AI 安全研究所测试 31 个开源模型的说谎检测器 — geoffreyirving · 2026-07-22
- DeltaNet 笔记拆解 Kimi Delta Attention 状态更新 — nrehiew_ · 2026-07-22