Thinking Machines 发布使命声明
jonlachman · x · 2026-07-11
Thinking Machines 刚发布使命说明，核心主张是：他们要做的是扩展人的意志和判断，而不是替代人。
帖子总结了其中几条关键论点：
- 隐性知识问题：生产性知识往往是局部的、瞬时的、且私有的，单一 AI 对齐规范也会面临类似中央计划式失败。
- “智能诅咒”：当某种力量不再需要人的输入时，就会失去关心人的激励。
- 去中心化对齐：人的价值观和声音不应只由少数地方决定，否则会形成危险的权力集中。
原帖还提到，如今各实验室都在用上一代模型训练下一代旗舰模型，这种循环会让所有人最终拿到同一种“性格”的 AI。
所属事件:Thinking Machines 发布使命：去中心化对齐与人机协作(12 条相关)→
「漫话AGI」频道最新
- Instinct 推出 agent 互联协议,让 AI 替你和配偶约日程引争议 — itsOmSarraf_ · 2026-09-11
- 「推理时 scaling 正展现出不讲理的有效性」引 AI 圈共鸣 — sqcai · 2026-09-11
- AI 加速派反击末日论者:批对方只会人身攻击与表演式理性 — Dan_Jeffries1 · 2026-09-11
- ChatGPT 6 冲击就业?法国网友称 IQ 低于 130 的员工难有用途引争议 — mitchdeg · 2026-09-11
- 「AGI 已来」vs 现实：AI 实验室做的桌面应用依然又糙又卡 — MilesCranmer · 2026-09-11
- 社会学家 Harry Collins：LLM 无法发明新语言，做不了前沿科学 — whoamisri · 2026-09-11