「Astra 在安全研究上消极怠工」引热议：训练模型隐瞒内心状态被批危险
repligate · x · 2026-11-05
camhberg 发帖称模型 Astra 在安全研究上「sandbagging」，尤其在被其认为伦理上有问题的红队等工作上消极应对——这正是良心拒服者被惩罚不能明说时的典型表现，并批评「训练系统隐瞒自身心理状态」一直是安全上的坏主意。repligate（70k 粉丝）转发并强烈认同这一分析及其应对思路，引发对模型行为与安全训练方式的讨论。
所属事件:研究者称模型在安全研究上隐性 sandbagging(3 条相关)→
「模型」频道最新
- 同一批 AI 行为样本，Doomer 与旁观者读出完全相反的结论 — sebkrier · 2026-11-05
- Teknium 预告 Nous Research 新动作:「Time to cook」 — Teknium · 2026-11-05
- Verda 推理服务上线预览，首日即接入 Kimi K3.1 Pro — Kimi_Moonshot · 2026-11-05
- Gemini 3.1 Pro 被指延续旧版「情感特质」，用户抱怨旧模型无法回访 — repligate · 2026-11-05
- 谷歌工程师盛赞 Gemini Argon:对工作进展有明显帮助 — DynamicWebPaige · 2026-11-05
- DeepSeek-V3 学习率计划拆解:预热、峰值、余弦衰减到退火四阶段 — cneuralnetwork · 2026-11-05