Krueger 与 Hobbhahn 激辩模型威胁模型:scheming 并非唯一危险
MariusHobbhahn · x · 2026-11-06
David Krueger 与 Marius Hobbhahn 在 X 上就 AI 安全威胁模型展开讨论:Krueger 认为对方在表达「模型不会 scheming,所以没那么危险」,Hobbhahn 澄清自己有很多担忧的威胁模型,其中许多并不涉及 scheming。简短但反映了对齐研究者内部对 scheming 之外风险(如 reward seeking、评估失效)的关注分歧。
所属事件:AI 安全研究者激辩模型威胁模型与风险弱化(4 条相关)→
「漫话AGI」频道最新
- Matthew Berman:几乎找不到盲目堆 token 就能赚钱的 AI 用例 — MatthewBerman · 2026-11-06
- Anthropic 被 CNN 质疑删改证据，社区担忧 RSI 机制不透明难监管 — Jsevillamol · 2026-11-06
- AI 股暴跌：英伟达跌 8.5%,马斯克身家缩水 1100 亿美元遭 Gary Marcus 讽刺 — GaryMarcus · 2026-11-06
- 研究者担忧AI安全攻防失衡:模型擅长找漏洞却弱于修补 — jessi_cata · 2026-11-06
- 学者评 AI 审阅代码:像趣味实验,但误报多、易误导人 — thegautamkamath · 2026-11-06
- Scale AI 主管 Alexandr Wang：我们都是僵尸，该用 AI 找回主动权 — davidsenra · 2026-11-06