SL5 安全该不该上?herbiebradley 算账:拖慢超半年就不值
herbiebradley · x · 2026-11-20
- 针对「美国实验室若做出 AGI,数天内权重就会泄露到中国」的担忧,herbiebradley 提出不同模型:AGI 不是终点,竞赛会继续(ASI 仍受数据等瓶颈约束),因此「不惜代价拖慢自己」的逻辑会一直成立。
- 他给出判据:若上 SL5 级安全在整个过程中造成的减速超过 X 个月(X 为对华领先幅度、Y 为距各方达成 ASI 或中国国产芯片量产的年数),就不值得,应接受权重被窃的风险;他估计合理取值为 X≈6-9 个月、Y≈3-5 年。
- 另外他指出,防范中国对美的破坏(sabotage)风险,SL5 是充分但非必要条件。
所属事件:Herbie Bradley 反驳 SL5 极端安全化:代价远超收益(5 条相关)→
「漫话AGI」频道最新
- 安全研究者:半自主 agent 正以 2005 年无法想象的速度挖掘漏洞 — chrisrohlf · 2026-11-21
- Anthropic 数学家称与 Claude 共同证明黎曼假设,待 Lean 验证 — NinaDSchick · 2026-11-21
- AI 交易等于算力建设时代或终结,效率增益将让市场「很快变怪」 — matt_slotnick · 2026-11-21
- 人类情绪是生物硬件的过时遗留,AI 能否帮人调节情绪 — irinarish · 2026-11-21
- Google 邀传记作家 Isaacson 对谈:AI 时代的创造力与人类判断力 — OnlineInference · 2026-11-21
- Ilya 播客金句:这一切正在发生,简直像科幻小说成真 — willdepue · 2026-11-21