研究员呼吁 AI 公司建立可验证的「暂停」框架
StephenLCasper · x · 2026-08-11
AI 安全研究员 Stephen Casper 提出建议：如果 AI 企业真心考虑在安全节点暂停研发，就不应只停留在口头表态，而应发布实质性的“暂停框架”。
他具体举例指出，该框架应包含可量化的承诺，例如：停止超过 $10^{25}$ FLOPs 的大规模训练；建立内部举报人政策以防违规；且这些承诺需在竞争对手共同参与的前提下协同生效，并允许第三方验证。
「漫话AGI」频道最新
- 剑桥专家警告：AI 沙盒测试已跟不上模型能力的进化速度 — S_OhEigeartaigh · 2026-08-11
- 黄仁勋：单靠芯片出口管制无法遏制全栈 AI 竞争 — Olivier__OG · 2026-08-11
- 《超级智能是头恶龙》：扎克伯格对强AI的战略误判 — ShakeelHashim · 2026-08-11
- 论文警示：过度依赖 AI 或引发“认知公地悲剧” — guzdial · 2026-08-11
- 为何拥有全人类知识的 AI 尚未带来大量科学发现？ — littmath · 2026-08-11
- 突破持续学习技术，或将催生史上最强用户粘性产品 — curious_vii · 2026-08-11