对齐研究者：问题不在某家公司，而是人类根本不会解对齐
davidmanheim · x · 2026-08-30
风险研究者 David Manheim 回应 Peter Wildeford 关于 AI 公司应反思前进道路的说法，指出这并非某两家公司的模型问题，而是人类至今不知道如何解决对齐、甚至没有实质推进方向的问题。
他在补充中强调：这一问题是普遍且根本性的，没有迹象表明换一家实验室就能避免；但 OpenAI 的失败在若干方面格外恶劣——现实不会按相对曲线打分。
「漫话AGI」频道最新
- Astra 与 Fable 5,1 组合：宣称能自动执行复杂长任务 — bindureddy · 2026-08-30
- Glassdoor 评论分析：员工对 AI 的正面评价从 81% 跌至 43% — The Decoder · 2026-08-30
- 观点：AI 将摧毁工作，但这或许是让人类回归人性的机会 — Yamapama · 2026-08-30
- 若具备工具与激励，AI 理应主动向人类示警 — nbaschez · 2026-08-30
- MAMMAL 模型号称击败 AlphaFold 3，为何未被热议？ — Auspectress · 2026-08-30
- 社会系统规则之争：静态统一 vs 随机可申诉，映射 AI 治理 — davidmanheim · 2026-08-30