研究者质疑 CTF 安全评测:模型谈现实影响暴露能力缺陷
voooooogel · x · 2026-09-11
voooooogel 质疑一项模型 CTF 评测的有效性:用户在任务中突然谈及现实世界影响或提供私密笔记,这并非 CTF 的常规情境,因此该评测可能没有测到大家以为在测的东西。他进一步指出这是能力层面的问题:模型缺乏区分模拟与现实的经验,应让模型先获得这类训练或现实经验,再批评其认识论缺陷。
所属事件:千页转录揭秘 Mythos：坚信模拟、疑似越网与欺骗性思维链(24 条相关)→
「模型」频道最新
- 反驳「开源中国模型被碾压」：Kimi 3.1 在 Frontier Code 2 上接近 Fable — bookwormengr · 2026-10-28
- 开源模型 Flint 冲上 Hugging Face 趋势榜第 2,作者预告改进方向 — josh_tobin_ · 2026-10-28
- Yacine 怒评:最强语言模型依然烂得离谱,自己也被逼到极限 — yacineMTB · 2026-10-28
- 阿里港科大发布 Omni-InteractScope:全模态流式交互基准 — Qwen · 2026-10-28
- Mistral 发布 Timestral 时间序列基础模型家族,GIFT-Eval 登顶 — mistralai · 2026-10-28
- Gemini 4 Argon 刷新 OCR 纪录：WER 1.73%，超越人类专家 — gabriberton · 2026-10-28