Thinky文章谈分布式对齐
Miles_Brundage · x · 2026-07-11
Miles Brundage 转发并评论 Thinking Machines Lab 的文章《The Future Worth Building is Human》，认为这篇文章比很多前沿 AI 公司常见的“空泛愿景”更具体，试图把“让 AI 增强人类而非取代人类”真正操作化。
他特别关注文章提出的一个大方向：知识和价值分布在人类社会各处，因此 AI 开发也应当更分布式，以尽量与这些人群保持对齐。Miles 还提到自己对细节的一些疑问，例如：
- “知识/价值定制”到底需要多少微调，多少其实可以靠 prompting、RAG 等更广义的定制方式完成
- 这种做法是否能同时带来技术创新与政策讨论上的价值
- 他对文章中古典自由主义、反对权力过度集中的一些论述印象不错
整体上，他把这篇文章视为 AI 公司使命叙事中的一个值得认真对待的样本。
所属事件:Thinking Machines 发布使命：去中心化对齐与人机协作(12 条相关)→
「漫话AGI」频道最新
- Instinct 推出 agent 互联协议,让 AI 替你和配偶约日程引争议 — itsOmSarraf_ · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11