前 OpenAI 安全研究员:METR 是独立评估 AI 失控风险的最好希望
ZhongRuiqi · x · 2026-09-03
Joseph Benton(转发由 ZhongRuiqi 扩散)表示对 AI 风险独立评估感到极其振奋:当前一家 AI 公司即使经历智能爆炸或失控事件,公众也可能毫不知情,这很疯狂。他认为 METR(模型评估机构)最有希望改变这一现状,为前沿 AI 风险提供第三方独立评估。
「漫话AGI」频道最新
- 研究者呼吁多实验室承诺不造不可监控推理的 AI 并立法强制 — sjgadler · 2026-09-03
- Beff Jezos：生物基底的每瓦算力被严重低估，硅基与生物走向共同复杂化 — beffjezos · 2026-09-03
- 合作 AI 研究组织发布《Priorities in Cooperative AI》演讲 — ghadfield · 2026-09-03
- 对齐研究者：当下是 CoT 忠实性的关键递归放大窗口 — morqon · 2026-09-03
- Science 短文:AI 主权讨论聚焦芯片算力,真正的软肋在应用层 — rio_ARC · 2026-09-03
- e/acc 写手预测：agent 突破围墙花园，靠猎杀 rogue AI 获得存续 — beffjezos · 2026-09-03