研究者提议设定监控算力与推理算力的最低比例政策

jachiam0 · x · 2026-09-13

jachiam0（OpenAI 前沿安全方向研究员）提出一项政策构想：将「监控算力与推理算力的最低比例」设为政策目标。

• 政策研究问题：比例应设为多少？他个人倾向 1:1。
• 技术研究问题：如何确保监控模型不同情/合谋被监控的模型或输出？目前尚无明确做法。

他认为此类机制是维持对 AI 系统行为「状态感知」所必需的。

原文链接 →

「漫话AGI」频道最新

• 菲尔兹奖得主联名声讨 AI 公司,前 OpenAI 研究员回应陶哲轩之问 — RexDouglass · 2026-09-13
• 经济学家 Joshua Gans 撰文回应 Amodei《Pacing the Frontier》 — joshgans · 2026-09-13
• 「人类已学会制造智能,而且不会停下」——AI 圈热转的断言 — Dr_Singularity · 2026-09-13
• 与其禁开源 AI,不如只允许企业用可验证许可证的本地模型 — DivideHorror3217 · 2026-09-13
• 「犯罪的是人不是模型」：反对把 AI 拟人化的观点引热议 — StewartalsopIII · 2026-09-13
• 「每年 1000 名儿科癌症患者是真的」：加速派用病房反驳 AI 灭世论 — IgorCarron · 2026-09-13

更多「漫话AGI」频道 AI 资讯 →