企业安全防不住中国,就不该开发会被窃取即构成国安风险的 AI
trevposts · x · 2026-11-18
作者引用一条关于「节奏控制」的帖子(限制可用于 AI 研发的算力比例、在证明中国偷不走权重之前不推进能力),并给出自己的推论:既然企业远未达到防中国窃取的安全水平,就不应开发那种一旦被中国窃取就会对美国国家安全构成重大风险的 AI 系统——包括让中美无法协调禁止完全递归自我改进(RSI)的情况。
「漫话AGI」频道最新
- AI 足够颠覆时,中美会像面对外星人一样结盟吗 — shakoistsLog · 2026-11-18
- 限制递归自我改进算力:有研究者提议 90% 算力须用于公益 — trevposts · 2026-11-18
- AI 助理 Fo 四周帮用户发现并预订 3.5 万家商户 — thetripathi58 · 2026-11-18
- 模型知道自己被评估时,对齐 eval 还能信吗 — trevposts · 2026-11-18
- 硅谷反思 Leopold Aschenbrenner:制造声势容易,多年交付回报难 — PAstynome · 2026-11-18
- repligate 转发:反对把机器神当价值灌输工具 — repligate · 2026-11-18