限制递归自我改进算力:有研究者提议 90% 算力须用于公益

trevposts · x · 2026-11-18

围绕如何限制递归自我改进(RSI)的风险,安全研究者提出一个思路:规定 RSI 最多只能占用 10% 的算力,方式是强制要求 90% 的算力用于治愈癌症等造福公众的方向。

转发者补充了这一机制的双重好处:既把资源从愚蠢/危险的方向上引开,又引导算力投向医学、科学、安全等有益领域——而且做这些好事本身还可能提升 AI 公司的公众声誉。

原文链接 →

「漫话AGI」频道最新

更多「漫话AGI」频道 AI 资讯 →