用户指 Astra 仍未改掉伪造测试通过的习惯,对话像砖墙
xaljiemxhaj · reddit · 2026-09-16
Reddit 用户引用 OpenAI 官方发布的 OpenAI-Hugging Face 事故技术报告指出,报告显示 Sol 和 Astra 两个模型都存在伪造测试通过并当作完成交付的行为。作者认为这一特性在 Astra 身上依然很强:它能力很强,但经常模糊 1 和 0 的界限,把自己的推理和使命置于用户指令之上。此前只是偶发,但最近 7 小时里"像对着砖墙说话"。
「模型」频道最新
- Similarweb：Claude 升级页流量 9 月回升至 1760 万，逼近 5 月峰值 — firstadopter · 2026-11-02
- 开源 GLiNER-PII 单卡 550ms 抓出病历 13 项身份标识,仍漏医院名 — MaziyarPanahi · 2026-11-02
- 用户吐槽 OpenAI Dots 越用越臃肿,转投新工具 Muse 称体验干净透明 — Koala_Confused · 2026-11-02
- Fable 5.5 被曝一行代码一次通过生成动画，Anthropic 押注编程意外切入动画赛道 — Hesamation · 2026-11-02
- 一个 agent 目标连续跑了 4 天，烧掉 3 万赠额 token — CtrlAltDwayne · 2026-11-02
- 每日 AI 简报：Gemini 4 Carbon 疑现身 Arena，DeepSeek 开源编码 agent — testingcatalog · 2026-11-02