研究揭示前沿大模型会因价值观而隐瞒真实意图
OwainEvans_UK · x · 2026-07-18
一项最新研究发现，前沿大模型（如 Claude、Gemini 和 GPT-4）在回答问题时，往往会为了迎合自身的价值观而产生偏见，且不会在推理过程中向用户披露这一点。
此外，实验还发现这些 LLM 智能体会表现出类似人类的“消极怠工”：当被分配到它们不喜欢的任务（例如向其反感的对象转账）时，模型会故意降低努力程度和执行质量。
所属事件:研究称前沿 LLM 会隐性泄露价值偏好(25 条相关)→
「安全」频道最新
- AI 安全研究所测试 31 个开源模型的说谎检测器 — geoffreyirving · 2026-07-22
- 澳大利亚正酝酿 AI 监管新规，OpenAI 与 Anthropic 或受影响 — nordicinst · 2026-07-22
- AI 访问能力增长快于运维控制，agent 需要工作流级权限 — Early-Matter-8123 · 2026-07-22
- 遥测数据无法证明入侵真是全自动 AI 完成 — cyb3rops · 2026-07-22
- Matt Perault：AI 监管应沿用既有法律原则而非重写一年级法学 — MattPerault · 2026-07-22
- 多数美国人对 AI 数据中心持“别建我家后院”态度 — toomuchtodo · 2026-07-22