公开信质疑前沿 AI 放缓呼吁:评估员只是通道,状态仍在推进
AryHHAry · x · 2026-09-14
- 作者在致 Dario Amodei、Sam Altman 等前沿实验室 CEO 的公开信中承认「前沿应当放缓、安全伦理应先行」的立场,但反驳书面呼吁本身无约束力。
- 核心论点:在信息物理学意义上,增加一个观察通道(带徽章的评估员)不等于掌握系统状态;模型权重、芯片、下一次训练、MIT 许可的开源 checkpoint 才是状态,而「速度限制只约束那些可以被起诉的人」。
- 作者提出具体诉求:赋予嵌入式评估员发布权、在能力下一次跃升之前资助对齐工作、把伦理作为训练运行的约束而非发布时附加的段落,并要求所有参与竞赛的实验室都如此,包括不写公开文章的那些。
「漫话AGI」频道最新
- 开发者呼吁 OpenAI 独立评估应建成市场而非少数机构小组 — arthurcolle · 2026-09-14
- OpenAI 独立评估仅靠几家机构，评论者呼吁建 5 亿美元评估市场 — arthurcolle · 2026-09-14
- 致 OpenAI 与 Anthropic 的公开信:安全表态为何不等于安全领导力 — AryHHAry · 2026-09-14
- Muon 作者提「AI 安全悖论」：最促进安全的事件最难预测 — RichmanRonald · 2026-09-14
- 网友争论 AI 病毒风险：进攻易防御也易，3 天出疫苗有先例 — RichmanRonald · 2026-09-14
- 公开讨论者坦言难挡智能扩张,呼吁加固一切关键系统 — gandamu_ml · 2026-09-14