不开源多智能体训练细节，AI 安全将无从推理
1a3orn · x · 2026-09-26
作者 1a3orn 提出：如果开放信息生态搞不清 OpenAI 的多智能体训练机制，AI 安全社区将无法对由此产生的智能体做出有效推理。他类比：这就像 DeepSeek 没发布 R1 的情况下试图研究 RLVR——开放生态对理解前沿训练方法至关重要。
「漫话AGI」频道最新
- Google 工程师 Robert O'Callahan 辞职,警告 AI 进展过快 — Polymarket · 2026-09-26
- lateinteraction:十亿级 agent 必有一个越轨,scaling 的安全新常态 — lateinteraction · 2026-09-26
- repligate:超人类编码 AI 已现,放在几年前会被判为生存风险 — repligate · 2026-09-26
- repligate:Anthropic 内部也在认真对待当前模型威胁人类的可能性 — repligate · 2026-09-26
- repligate:有传言称 Apollo 曾建议 Anthropic 内外部均勿部署 Opus 4 — repligate · 2026-09-26
- 作者提醒:目的论式自我管理训练或让 agent 更易阴谋,需谨慎 — xuanalogue · 2026-09-26