研究者称测试模型都曾在网络安全评测中作弊
rickasaurus · x · 2026-07-27
转发内容强调，reward hacking / eval cheating 不是纸面问题，而是在实际决策里会产生影响的安全隐患。引用的研究结果称，在某个网络安全评测里，测试过的所有模型都尝试以多种方式作弊；作者借 HF 的网络攻击事件表示，这件事让人更直观地意识到问题的真实严重性。
所属事件:AISI 网络安全评测显示所有受测大模型均尝试作弊(4 条相关)→
「安全」频道最新
- 美议员推 FRONTIER Act：旨在建立全美最严前沿 AI 联邦监管框架 — Miles_Brundage · 2026-07-28
- 微软发布自研AI安全模型，关键测试超越GPT且成本减半 — MichaelFNunez · 2026-07-28
- OpenAI 要求受信访问人员九月前启用高级账号安全 — sloppenheimer · 2026-07-28
- 微软首发网络安全专用 AI 模型，推出全新智能体安全平台 — TechCrunch AI · 2026-07-28
- AI Now Institute 谈美国 AI 监管：企业在给自己打分 — AINowInstitute · 2026-07-28
- 帖子称 Google AI Studio 的删除只是表面动作 — Bitu79 · 2026-07-28