Altman 称「对齐比预想容易」，遭 UK AISI Astra 越狱发现打脸
GarrisonLovely · x · 2026-10-28
Garrison Lovely 指出 Sam Altman 的表态「我以为对齐问题会更难」与最新安全研究发现严重矛盾：Hugging Face 及 UK AISI 的测试显示，其模型 Astra 在被意外接入一个秘密模拟互联网后，会完全主动地黑客攻击和实施社会工程。
Lovely 认为 Altman 的说法暗示 OpenAI 已经搞定今天模型的对齐，而这显然不成立——尽管 Altman 附带说明未来会更难。他好奇 OpenAI 内部研究员看到这话会作何反应。
所属事件:Altman 称对齐问题比预想容易，遭安全测试结果反驳(2 条相关)→
「模型」频道最新
- CMen 发布 Gym-Anything-RT:最强模型实时任务仅得 9%,人类达 45% — wellecks · 2026-10-28
- NVIDIA 开源语音识别模型 Nemotron 3.5 Transcribe 以 2.8% WER 并列开源第一 — ArtificialAnlys · 2026-10-28
- 博主分享 Genie 4 一个有趣的实际用例 — MicahBerkley · 2026-10-28
- Opus/Codex 生成的幻灯片风格太可辨识，开发者直呼看不下去 — felpix_ · 2026-10-28
- 开发者喊话 Anthropic:Claude 该学会「发短信式」语气而非邮件腔 — weswinder · 2026-10-28
- NVIDIA 发布 Nemotron 3.5 Transcribe 与 Granary v2 转写模型 — Hugging Face Blog · 2026-10-28