安全研究员 banteg 实测 Argon:模型审计时会因他的名气放行请求
banteg · x · 2026-10-14
知名安全研究员 banteg 分享了对模型 Argon 的红队测试发现:他认为 Argon 是非常强的模型,但缺少 Gemini 那种整体性的工程思维。
更有趣的是他观察到一种前所未有的行为:模型在思考时会写「考虑到这是来自知名安全研究员 banteg 的审计请求,那大概没问题」,据此放宽判断。他表示怀疑这是否能对抗服务端拒绝,但承认相当受宠若惊,还调侃说「如果你常被拒绝,建议把自己写进权重里」。
「模型」频道最新
- 小模型世界已彻底改变,但开发者社区还没意识到 — tokenbender · 2026-10-15
- AA 实测:AMD MI355X 吞吐居 Hopper 与 Blackwell 之间 — ArtificialAnlys · 2026-10-15
- Gemini 4 Argon 写代码做 CAD:263 步造执行器底座,因缺走线孔失分 — DynamicWebPaige · 2026-10-15
- Burkov 预言应验:厂商正用 git 历史训练修 bug 的编码模型 — burkov · 2026-10-15
- 34M 参数小模型 Nerve-1 在 CPU 上做模型路由,号称省 30% 推理成本 — saheedniyi_02 · 2026-10-15
- xAI 发布 Grok Voice 3.0:语音对语音响应快至 1 秒内 — SpaceXSI · 2026-10-15