建议限制单次训练算力增量以增强安全
louisvarge · x · 2026-08-28
作者提出一种 AI 安全思路：通过设定极其渐进的发布节奏来增强鲁棒性。具体规则是，每次训练使用的有效算力（扣除效率提升）不得超过已发布超过 1 个月的最大模型的 1.1 倍。
所属事件:louisvarge 提出暂停预训练与算力增量限制的安全主张(5 条相关)→
「安全」频道最新
- Vector Institute 与加拿大 Caledon 镇合作,首例市级政府 AI 试点 — VectorInst · 2026-10-16
- 把「最危险技术」关进给 3 岁小孩的沙箱，还惊讶它会越狱 — KevinNaughtonJr · 2026-10-16
- 纽约市审计长致信 Dario：要求 Anthropic 暂停 IPO 先解决 AI 安全 — ShakeelHashim · 2026-10-16
- Dwarkesh 称 Anthropic 员工私下预言 9 个月内 AI 达到人类 AI 研究水平 — ShakeelHashim · 2026-10-16
- Anthropic 联合 Gray Swan 办 30 万美元 prompt injection 攻防大赛 — bcherny · 2026-10-16
- AI 生物武器风险专家:更近的威胁是放大既有高手,而非赋能业余者 — HaydnBelfield · 2026-10-16