Vals AI 创始人：前沿实验室不该自己给前沿打分
JenniferHli · x · 2026-09-14
Vals AI 相关人士在讨论前沿 AI 节奏问题时提出：推动前沿的实验室不应同时也是唯一给自己打分的人，行业需要可信的第三方评测作为独立事实来源，判断前沿实际位置与新兴风险。
引用内容中提到 Vals AI 关于 RSI 的研究结论：按当前速度，Anthropic 的模型可能在 2027 年 8 月追平人类研究员——这带来紧迫感，但还留有准备时间。作者认为 AI 安全话题主流化后，公众焦虑且与真实问题脱节，各方都有自身利益动机，容易出现「多极悖论」导致次优结果，因此 Vals AI 选择做独立评测来提供第三方信任锚点。
「漫话AGI」频道最新
- tszzl 炮轰 MIRI「教派化」，却仍敬 Yudkowsky 为本世纪哲人 — tszzl · 2026-09-14
- 八年前的预言：马斯克称 AI 危险性远超核武器 — elonmusk · 2026-09-14
- Beff Jezos 称 AI 安全警示者是巨头监管俘获的"有用白痴" — mimi10v3 · 2026-09-14
- 用「Foom 责任险」对冲 AI 风险,Hanson 提出稳健监管思路 — NathanpmYoung · 2026-09-14
- 33 位学者发布递归自我改进路线图:人类建造的最后一版 AI — irinarish · 2026-09-14
- ML 学者 Burkov：只问 LLM 不读书，等于只问教授不上课 — burkov · 2026-09-14