Thinky文章谈分布式对齐
Miles_Brundage · x · 2026-07-11
Miles Brundage 转发并评论 Thinking Machines Lab 的文章《The Future Worth Building is Human》，认为这篇文章比很多前沿 AI 公司常见的“空泛愿景”更具体，试图把“让 AI 增强人类而非取代人类”真正操作化。
他特别关注文章提出的一个大方向：知识和价值分布在人类社会各处，因此 AI 开发也应当更分布式，以尽量与这些人群保持对齐。Miles 还提到自己对细节的一些疑问，例如：
- “知识/价值定制”到底需要多少微调，多少其实可以靠 prompting、RAG 等更广义的定制方式完成
- 这种做法是否能同时带来技术创新与政策讨论上的价值
- 他对文章中古典自由主义、反对权力过度集中的一些论述印象不错
整体上，他把这篇文章视为 AI 公司使命叙事中的一个值得认真对待的样本。
所属事件:Thinking Machines 发布使命：去中心化对齐与人机协作(12 条相关)→
「漫话AGI」频道最新
- WSJ 专栏：对押注 Anthropic 股份的投资者，10% 灭绝风险或只是 90% 的组合胜率 — davidmanheim · 2026-10-27
- WSJ 专栏:就算 10% 灭绝概率,押注 Anthropic 股票仍可能是 90% 的赢面 — peterwildeford · 2026-10-27
- Simile 融资 3 亿美元估值 20 亿,用 AI 模拟真人预测行为,准确率超 85% — joon_s_pk · 2026-10-27
- 研究员比喻：AI 图像像发霉面包，AI 文本像变质牛奶 — _vaishnavh · 2026-10-27
- Diamandis:别用 AI 加速旧工作,回头捡起你放弃的项目 — PeterDiamandis · 2026-10-27
- Nat Lambert:任何 AI 模型,没经过严格测试都不该被信任 — natolambert · 2026-10-27