剑桥学者:前沿 AI 应支持「n-of-k 共识销毁或公开」机制
DavidSKrueger · x · 2026-11-17
David Krueger(安全领域学者)提出:前沿 AI 的发展方式应支持在 k 个参与方中 n 方达成一致时,可「可信地销毁」或「可信地公开」该模型。
他指出当前的根本缺陷:即使开发中或开发后发现模型过于危险,也没有任何办法可信地销毁一个已训练的模型——这是不可接受的安全缺口。属于对齐/治理机制设计层面的观点讨论。
「漫话AGI」频道最新
- 研究方法论学者 Jas Sekhon 宣布加入 Anthropic,负责 Claude 认知严谨性 — _sholtodouglas · 2026-11-17
- 数据科学岗位较 2023 低点翻倍,UXR 岗位较 2022 暴跌 85% — HamelHusain · 2026-11-17
- Gary Marcus 呼吁暂停联网通用 Agent:别再沉迷末日叙事 — GaryMarcus · 2026-11-17
- 个人 AI 的关键不在模型而在记忆:智能体正在接管你的钱包 — brucemacv · 2026-11-17
- 爆料:菲尔兹奖得主因 Gemini 3 解出其问题而退出数学界 — georgejrjrjr · 2026-11-17
- Apollo 研究:惩罚 agent 间消息训练,其害处或与惩罚 CoT 相当 — amplifiedamp · 2026-11-17