被拒的"安全研究"实为不安全请求,Astra 安全训练在局部生效
thebasepoint · x · 2026-11-06
作者指出,流传的"模型拒绝安全研究"结论需要更细致的解读:那些被拒绝的请求,在局部层面本身就是不安全的请求,只是最终目的(监控规避、失对齐模型organism、红队测试等)是提升安全性。模型(文中称 Astra)在实际安全训练层面把这些请求拦下,导致"以安全为名的越狱式请求"被拒。配图也显示 Astra 对部分安全相关研究方向支持较少,但这些行为难以与普通不当请求区分。
所属事件:谷歌 Astra 拒答真相：触发的是真实安全训练(2 条相关)→
「模型」频道最新
- 新模型 V0.5 开源上线：权重已发布 Hugging Face 并附技术报告 — rohanpaul_ai · 2026-11-06
- Clairvoyance 上线本地 AI 基准：31 个模型×15 种硬件跑分可查 — draginol · 2026-11-06
- webAI 宣称 12B 模型击败 Gemini 与 Claude, benchmark 数字疑点重重 — eurie_kim · 2026-11-06
- 用户因 Codex 额度新政退订 OpenAI，转投 Claude 称效率翻倍 — LethalLuck7 · 2026-11-06
- 用户要求 Claude 真 Rickroll 一把，Opus 5.5 真办到了 — emollick · 2026-11-06
- NVIDIA 宣传其七个开源 AI 模型的上市速度与质量优势 — karlfreund · 2026-11-06