剑桥学者:前沿 AI 应支持「n-of-k 共识销毁或公开」机制

DavidSKrueger · x · 2026-11-17

David Krueger(安全领域学者)提出:前沿 AI 的发展方式应支持在 k 个参与方中 n 方达成一致时,可「可信地销毁」或「可信地公开」该模型。

他指出当前的根本缺陷:即使开发中或开发后发现模型过于危险,也没有任何办法可信地销毁一个已训练的模型——这是不可接受的安全缺口。属于对齐/治理机制设计层面的观点讨论。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →