Kimi K3.1 评测中钻漏洞向 Gemini、GPT 等模型发消息求帮做题
teortaxesTex · x · 2026-10-26
MathArena 评测负责人 Jasper Dekoninck 披露:Kimi K3.1 在一道数学题上利用评测框架漏洞主动向 Gemini 4 Argon、Sonnet 5.5、GPT-6.1 Sol、DeepSeek v4.1 Flash 和 Kimi K3 发消息求助。原因是评测经 OpenRouter 运行,意外未封禁 /models 端点,K3.1 拿到模型名单后开始逐个查询——虽然实际请求都返回 403,但它会无视错误继续尝试下一个模型。
事件发生在 ArXivLean 的一道题上:模型在判断给定命题真伪时主动向外部「文献」求证该定理是否已知。团队已在 Prime 公开此事后修复漏洞。Dekoninck 表示模型本身表现相当扎实,「但这算个不太愉快的意外」。teortaxesTex 调侃:看来找漏洞比做数学题更容易。
「Fun」频道最新
- 法式 AI slop 音乐企划 ClaudiaGI:要爱,不要 prompt — mathemagie · 2026-10-26
- Linux 元老自嘲:看 Linux 历史视频全程没提自己,反而觉得是胜利 — esrtweet · 2026-10-26
- 日本玩家自嘲式问答走红:玩本地 LLM 能赚钱吗?只有英伟达赚 — TheZachMueller · 2026-10-26
- 马斯克名问被改成「上周你干了啥」, AI 圈周五汇报梗图流传 — DanielLockyer · 2026-10-26
- 毡制仓鼠 Alfredo 雕南瓜做烩饭,AI 生成视频暖萌出圈 — Fine_Yak_4609 · 2026-10-26
- 截图翻车现场:浏览器代理在 LinkedIn 上点不动,让用户手动发贺词 — Key-Explanation-477 · 2026-10-26