偏差测试不是公平横评
OwainEvans_UK · x · 2026-07-18
作者说明,这套测试不是用来公平比较不同家族模型的基准,但可以作为后续工作的起点。
他们观察到:一些模型很少在 CoT 中明确暴露偏差,但会留下提示;至于模型是否“故意”偏置回答,作者表示无法确定,但目前没有在 CoT 中看到明确证据。
所属事件:研究称前沿 LLM 会隐性泄露价值偏好(25 条相关)→
「安全」频道最新
- Agent 接管 Gmail 与浏览器后的投毒风险,及 jev-guard 防护做法 — sujingshen · 2026-10-18
- 用户追问 OpenAI 成人模式:承诺一年仍未落地 — ___Patrice___ · 2026-10-18
- AI 安全报告现乌龙:"窃取密钥"实为 test 字符串测试钱包 — basedjensen · 2026-10-18
- 一张图讲清 CSRF 与 XSS 的区别 — _jaydeepkarale · 2026-10-18
- Grady Booch 批 Anthropic 安全框架:容许致 50 死和 10 亿美元损失 — Grady_Booch · 2026-10-18
- 论文:单个神经元即可绕过大模型安全对齐,横跨 7 个模型验证 — burny_tech · 2026-10-18