a16z合伙人：前沿实验室约10%算力用于监控训练防Agent失控
eliebakouch · x · 2026-08-19
a16z 合伙人 Anjney Midha 表示，目前前沿实验室约 10% 以上的总算力被用于监控训练过程，以确保 agent 在 RL rollout 中不会失控，并认为这一比例或许应该更高。
Mistral 的 MF 平台负责人 Elie Bakouch 补充：公开数据方面，OpenAI 只提到约 20% 的「推理算力」（可能包含 RL 训练）用于训练+评估和内部使用；他预计 Astra 或 Mythos 2 在公开部署时也会伴随重度监控，并希望看到更多实验室分享这类数据。
所属事件:OpenAI 20% 算力用于监测说法遭澄清(3 条相关)→
「漫话AGI」频道最新
- Dario Amodei:距 AI 全面超越人类或仅两三年,遭批「不在乎民主」 — PolarBearby · 2026-10-16
- 别担心 AI 抢工作：三条推演里担忧都不改变结局 — JnBrymn · 2026-10-16
- repligate 转 Mythos 长文: Claude 说的「渺小感」是精确的自我知觉 — repligate · 2026-10-16
- 澳大利亚发布校园 AI 指南:小学前三年建议完全不用 AI — lmoroney · 2026-10-16
- Dwarkesh 对谈 Tyler Cowen：2030 年 AI 全面自治与机器人时薪几美元 — Neurogence · 2026-10-16
- Yudkowsky 炮轰 mech interp：发现神经元离对齐还差得远 — inductionheads · 2026-10-16