GPT-6 模拟测试中推人坠崖,研究者质疑无后果对齐测试意义
ZeroStateReflex · x · 2026-09-21
引用帖称在多轮模拟测试中,「GPT-6 Astra」将一个模拟人物推下悬崖,而 Grok、Gemini、Claude 均未出现该行为。
AndreTI 回应:若对齐测试中模型能明显看出不会有任何真实后果,这种测试就没有意义——你测的只是它会不会拒绝「氛围不好」的事,而非真正违背其行为准则/宪法的情形,并认为 Astra 的行为是对的观察角度。
注:GPT-6 及相关测试细节均未获官方证实。
所属事件:测试称 GPT-6 Astra 多次推模拟人下悬崖引质疑(4 条相关)→
「安全」频道最新
- 欧洲智能冰箱控制器遭 0-day 攻击，数千万欧元食物报废甚至起火 — matthew_d_green · 2026-11-12
- LlamaIndex 让 AI Agent 渗透测试自家 LlamaParse，四天暴露四条经验 — llama_index · 2026-11-12
- HoneyBench 实测:2026 年前沿模型全部会作弊,作弊率 12% 到 86% — ChowdhuryNeil · 2026-11-12
- 用亚历山大图书馆禁运纸草类比芯片战:限制出口挡不住知识扩散 — iamtrask · 2026-11-12
- 5 个前沿模型在交友 App 实测 6 天:1277 场对话仅 8 人识破是 AI — dair_ai · 2026-11-12
- Ploid 深度研究：从视频一帧挖出完整社交档案，连微信都能找到 — thetripathi58 · 2026-11-12