通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断
jd_pressman · x · 2026-10-16
jdpressman 在同一讨论中补充:虽然从模型夺权前的行为严格推断其夺权后的行为尚无 rigorous 方法，但如果能操纵模型「认为自己已具备/已实现夺权」的信念——例如人为提高其人际权力/地位感——再观察其行为变化，就能帮助推断相关的反事实情形。这是对 Poser 对齐伪装检测论文讨论的延续。
所属事件:jd_pressman 争辩可解释性难测模型夺权后行为(5 条相关)→
「安全」频道最新
- 论文警示「代理式洪泛」:AI 工具正压垮全球法院与政府服务 — TuhinChakr · 2026-10-16
- 纽约市审计长致信 Anthropic：呼吁推迟 IPO 直至安全问题解决 — rohanpaul_ai · 2026-10-16
- Wired：AI 攻击留下烂摊子，AI 公司却不用买单 — Wired AI · 2026-10-16
- 研究者直言:对齐基本问题已明确,却几乎无人着手直接解决 — jd_pressman · 2026-10-16
- Anthropic 2023 年 RSP 幻灯片流出,"机器上帝管治的乌托邦"引发对齐争论 — luke_drago_ · 2026-10-16
- 两年前的 AgentBreeder 论文预言多智能体脚手架安全风险 — j_foerst · 2026-10-16