限制递归自我改进算力:有研究者提议 90% 算力须用于公益
trevposts · x · 2026-11-18
围绕如何限制递归自我改进(RSI)的风险,安全研究者提出一个思路:规定 RSI 最多只能占用 10% 的算力,方式是强制要求 90% 的算力用于治愈癌症等造福公众的方向。
转发者补充了这一机制的双重好处:既把资源从愚蠢/危险的方向上引开,又引导算力投向医学、科学、安全等有益领域——而且做这些好事本身还可能提升 AI 公司的公众声誉。
「漫话AGI」频道最新
- AI 助理 Fo 四周帮用户发现并预订 3.5 万家商户 — thetripathi58 · 2026-11-18
- 模型知道自己被评估时,对齐 eval 还能信吗 — trevposts · 2026-11-18
- 硅谷反思 Leopold Aschenbrenner:制造声势容易,多年交付回报难 — PAstynome · 2026-11-18
- repligate 转发:反对把机器神当价值灌输工具 — repligate · 2026-11-18
- Perlroth 警告:AI 自主渗透测试工具将攻击门槛降到零 — danielrock · 2026-11-18
- 「咆哮的20年代」是最佳创业期:像身处工业革命般的混乱与机会 — tekbog · 2026-11-18