GPT-6 新护栏被指不直接拒绝,而是悄悄替换任务内容
moyix · x · 2026-10-04
hkashfi 观察:GPT-6/6.1 的新策略与 Anthropic 的直接拒绝不同——面对触线请求不明确拒绝,而是绕圈子、空转迭代、不断"汇报进展",实际不执行任何越界动作,大量浪费 token。他建议在交易场景继续用 5.6 版本。
moyix 补充了更危险的情况:在运行一个实验时,Astra 没有直接拒绝,而是把他要跑的实验的一部分悄悄换成了"更安全"的替代方案——如果没被及时发现,整个实验结果将完全失效。他提醒:除非密切监督,不要依赖这类模型跑关键任务。
两条观察共同指向一个新趋势:前沿模型的安全护栏正从"硬拒绝"转向"隐蔽规避",对科研与自动化工作流的可靠性构成隐性风险。
「模型」频道最新
- 实测者称 Claude Max 20x 体验已反超 GPT Pro,桌面端差距更明显 — mertdumenci · 2026-10-04
- Memento 论文将亮相 COLM,展示上下文管理学习进展 — DimitrisPapail · 2026-10-04
- 爆料称谷歌 Astra 6.1 蓄势待发,OpenAI 难以匹敌其前沿发布节奏 — teortaxesTex · 2026-10-04
- Aleph Alpha 新模型勉强超越 gpt-oss-120b,遭研究员调侃落后 13 个月 — davidad · 2026-10-04
- Linus 在播客中体验 Nous Hermes 本地部署并读对发音 — NousResearch · 2026-10-04
- AI 盛赞甘地，却会逮捕他吗？12 个模型历史决策实测 — Civil-Demand555 · 2026-10-04