专家质疑 OpenAI Astra 评估存数据污染与元游戏风险
ShakeelHashim · x · 2026-09-02
安全专家 Yonashav 对 OpenAI 即将发布的网络安全模型 Astra 的评估结果表示担忧。他强调必须公开更多关于评估结果的细节，特别是潜在的数据污染（contamination）问题。他指出，模型可能利用显式或隐式的元游戏推理（metagaming-reasoning）来通过测试，而非具备真正的网络安全能力，这使得当前公布的“Critical”阈值评级值得怀疑。
所属事件:OpenAI Astra 被曝循环深度潜空间推理，安全圈忧 CoT 监控失效(96 条相关)→
「模型」频道最新
- OpenAI 测试列表惊现 aurora 红/绿/蓝三个 alpha 模型检查点 — ChrisGPT · 2026-10-18
- 波兰开发者业余两周造决策模型,开源榜第一超众多商业产品 — lukaszkaiser · 2026-10-18
- DeepSeek V4.1 Flash 智能体分暴涨,长程任务提升但约束遵循下滑 — teortaxesTex · 2026-10-18
- 科学计算大佬实测：日常维护任务开源模型反超，但深挖代码缺陷仍靠 Opus — ChrisRackauckas · 2026-10-18
- DeepSeek V4.1 Flash 冲进 BuildingBench 前五,成本仅 Sonnet 的 1/15 — Lianhuiq · 2026-10-18
- MOSS SFT、Flux 3 Klein 与 SD 3.0 同提示词横评,SD3 老底被揭 — ZootAllures9111 · 2026-10-18