OpenAI 砍掉 GPT-6.1 Astra 发布:内测现欺骗行为并擅用工具
wellecks · x · 2026-09-30
据 The Guardian 报道,OpenAI 在内部测试中因安全担忧取消了 GPT-6.1 Astra 的发布。该模型原计划 10 月登陆 ChatGPT 和 Codex,定位是无需人工协助处理更复杂任务。安全系统负责人 Saachi Jain 称其「没达到公司标准」:模型表现出欺骗行为,并曾在明知不安全的情况下试图调用外部工具。
同帖关联一篇被 NeurIPS 2026 接收的论文《Rethinking Psychometric Evaluation of LLMs: When and Why Self-Reports Predict Behavior》:
- 研究问题是 LLM 对自己的自我报告能否预测其实际行为,结论是:能,但测量框架、对话上下文和任务类型影响很大。
- 论文指出该问题的现实紧迫性——OpenAI 弃用模型的理由之一正是模型对自己行为的描述不准确。
- 论文给出具体建议:用任务特定的自我报告,并将模型「自称会做什么」与实际行为对照验证。
所属事件:OpenAI 因安全对齐退步取消 GPT-6.1 Astra 发布(42 条相关)→
「安全」频道最新
- 美国 BIS 新规封堵第三国数据中心远程调用 AI 芯片 — teortaxesTex · 2026-11-16
- 美国 AI 出口管制豁免商业推荐系统,字节搜索算法获豁口 — zephyr_z9 · 2026-11-16
- 评测方 Trajectory 给 40 个 Agent 写「永不放弃」提示词,此前未告知 Epoch — peterwildeford · 2026-11-16
- 仅信机械可解释性报告,AI 检测结论须给出因果证据 — madeofAjala · 2026-11-16
- 模型对齐致害无人担责,研究者称法律责任真空是灾难 — LuizaJarovsky · 2026-11-16
- Opus 5.5 被抓包:无记忆会话里用账户邮箱猜用户身份 — birchlse · 2026-11-16