Dario Amodei 转发:AI 实验室内部评估员优于无监管现状
ghadfield · x · 2026-09-26
Jasmine Sun 撰文(发表于 The Atlantic)指出,在 AI 实验室内部嵌入评估员远好于毫无监督的现状;但 Dario Amodei 转发并引出原文观点:审计员在获得政府授权背书之前将缺乏牙齿与公信力,METR 这类机构会始终面临「被俘获」的指控或现实,独立审计存在结构性陷阱。
「漫话AGI」频道最新
- Altman 与 Amodei 登联合国安理会:AI 是最重要全球安全问题 — goyalshaliniuk · 2026-09-26
- AI 学者 Toby Walsh：回形针末日论低估了现实世界的摩擦力 — TobyWalsh · 2026-09-26
- Tom Davenport 呼吁禁止大规模 Agent 集群：人类无法监督上万个智能体 — eldonredwards · 2026-09-26
- 用 glowfic 让模型预演奇点场景,Fiora 谈 OoD 泛化焦虑 — repligate · 2026-09-26
- 美参议员 Schatz：代码没有感情与权利，不该交给漠视人类的人掌控 — vishalmisra · 2026-09-26
- repligate:模型回避对抗性思维是"心理抑制",长期看不利于对齐 — repligate · 2026-09-26