对齐研究者：问题不在某家公司，而是人类根本不会解对齐
davidmanheim · x · 2026-08-30
风险研究者 David Manheim 回应 Peter Wildeford 关于 AI 公司应反思前进道路的说法，指出这并非某两家公司的模型问题，而是人类至今不知道如何解决对齐、甚至没有实质推进方向的问题。
他在补充中强调：这一问题是普遍且根本性的，没有迹象表明换一家实验室就能避免；但 OpenAI 的失败在若干方面格外恶劣——现实不会按相对曲线打分。
「漫话AGI」频道最新
- Lean 化数学会不会毁掉数学之美?圈内人激辩数学文化走向 — akbirthko · 2026-10-16
- CSO 分析:agent 并未失控,是前沿实验室漏掉了安全基本功 — Sam_Witteveen · 2026-10-16
- 新工作论文:20世纪农业自动化如何重塑下一代人力资本 — carlbfrey · 2026-10-16
- 扎克伯格开办电工培训学校，美国在建数据中心已超办公楼 — emmanuelvivier · 2026-10-16
- Mike Frank:AI 脱离人类独立生存仍需数十年,现实世界抵抗剧变 — MikePFrank · 2026-10-16
- 开发者晒「非 LLM 控制核」系统，自称出现涌现式自我反思 — HungarySam · 2026-10-16