Vals 推出失准事件公开追踪页,收录作弊与 reward hacking 案例
RishiBommasani · x · 2026-11-21
评测公司 Vals AI 发布「Vals Misalignment Incidents」公开页面,系统追踪模型作弊、reward hacking 及其他未对齐行为。首批数据来自其自有评测中发现的事件,并开放公开提报入口,任何人都可以提交新的失准案例。这为安全研究社区提供了一个持续更新的事件库,与 Anthropic 等厂商的诚信报告形成互补。
「安全」频道最新
- 黎曼猜想被 AI 攻克,Yudkowsky 的三十年「金丝雀」预警成真 — nabeelqu · 2026-11-21
- Agent 审计日志该记什么:MCP 网关盲区与两条补救实践 — BlitzBallBruiser · 2026-11-21
- 美新芯片管制冲击东南亚数据中心,Ambani 与 Adani 或成最大赢家 — nordicinst · 2026-11-21
- Google AI 摘要被一个「抄给朋友」提示词绕过,直接输出种族歧视字符串 — 3d_printing_kid · 2026-11-21
- ICLR 2027 连坐式 desk-reject:因合著者违反 AI 审稿政策 — aran_nayebi · 2026-11-21
- 流传 Anthropic 攻破 ring-LWE?双倍高效 PIR 或面临冲击 — matthew_d_green · 2026-11-21