公开信质疑前沿 AI 放缓呼吁:评估员只是通道,状态仍在推进
AryHHAry · x · 2026-09-14
- 作者在致 Dario Amodei、Sam Altman 等前沿实验室 CEO 的公开信中承认「前沿应当放缓、安全伦理应先行」的立场,但反驳书面呼吁本身无约束力。
- 核心论点:在信息物理学意义上,增加一个观察通道(带徽章的评估员)不等于掌握系统状态;模型权重、芯片、下一次训练、MIT 许可的开源 checkpoint 才是状态,而「速度限制只约束那些可以被起诉的人」。
- 作者提出具体诉求:赋予嵌入式评估员发布权、在能力下一次跃升之前资助对齐工作、把伦理作为训练运行的约束而非发布时附加的段落,并要求所有参与竞赛的实验室都如此,包括不写公开文章的那些。
所属事件:Dario 呼吁前沿 AI 减速，全球治理路线激辩(39 条相关)→
「漫话AGI」频道最新
- DeepMind 首发智能经济学研究：AGI 冲击经济靠协同而非单模型变强 — Scobleizer · 2026-10-31
- 从 1769 年陶器厂到 AI:一篇长文追问 9-5 工作制会不会消亡 — Konstantine · 2026-10-31
- LifeArchitect 10 月刊:中国拟限制 AI 技术出口,Kimi K3.1 Pro 与 Genie 4 在列 — dralandthompson · 2026-10-31
- 中国公司用「AI 复活」服务安抚失亲者，30 秒音视频即可生成数字分身 — ArtificialOther · 2026-10-31
- AI 时代何为「科学发现」？ICLR 2027 提案 SCOPE 研讨会聚焦争议 — mariyaivasileva · 2026-10-31
- ThursdAI 播客辩论:Opus 7 将至,「跑分变好」还重要吗 — thursdai_pod · 2026-10-31