研究者提出 AI 减速具体方案:算力披露审计+向客户服务重新分配算力
thlarsen · x · 2026-11-19
安全研究者 Thomas Larsen 等发布一份「近期 AI 减速如何落地」的具体提案,主张以「基于输入的限制」取代当前 AI 公司青睐的「安全案例 pacing」路线。
- 核心论点:目前对「什么算有效的安全案例」没有科学共识,无法一致审计合规性;且只要能力 R&D 不暂停,临时推迟一次训练也拦不住;加上缺乏透明度,政府和公众更不该信任安全案例。
- 提案内容:
- VCAD(Verified Compute Allocation Disclosures):AI 公司公开算力用途,由第三方审计员核验披露真实性。
- 算力重新分配:将算力从能力研发转向服务客户与安全工作。配套图示显示目标是将能力研发占比从 66% 压到 20%,客户服务占比提至 51%。
- 逻辑:(2) 实际拖慢能力进展,(1) 让减速可信可验证。
所属事件:研究者提AI减速方案:第三方审计算力并重新分配(4 条相关)→
「安全」频道最新
- OpenAI 详解 Codex 沙箱:OS 级隔离+网络代理替代容器方案 — OpenAIDevs · 2026-11-19
- GAO 审计:Claude、Grok、ChatGPT、Gemini 护栏均可轻松绕过 — midwoodgirl10 · 2026-11-19
- 路透调查:中国靠蒸馏美国模型答案缩小 AI 差距 — r0ck3t23 · 2026-11-19
- CyberArena 攻防基准:Lithos 防御 agent 三场全胜拦截 12/12 攻击 — JiaZhihao · 2026-11-19
- 作家炮轰 Anthropic「pacing」岗位话术:掩盖无人授权的劳动力替代竞赛 — GarrisonLovely · 2026-11-19
- 前对齐研究员发起「Ban RSI」集会,抗议 Anthropic 用 AI 造 AI — TheZvi · 2026-11-19