Emmett Shear 发表对齐新论：信任是关系的属性而非模型的属性
Hidenori8Tanaka · x · 2026-10-28
Twitch 联合创始人、前 OpenAI 临时 CEO Emmett Shear 与联合创始人 David Bloomin 在 Softmax 发表文章《Origins of Trust》，讨论对齐的终极问题——对 AI 的信任从何而来：
- 两种理论对比：主流观点把信任当作模型的属性——部署前测试行为、读思维链、探测激活值，期待一个能预测未测试场景的理论，在此之前用不可颠覆的监督控制；
- 作者立场：心智之间的信任从来不是这么运作的。人互相信任是因为共同成长、互相依赖、有长期记录；人与 AI 的信任同样如此。对齐因此是人与 Agent 群体持续进行的过程，无法在训练出的模型上一次性检验完毕。
- 文章逐一展开两种理论各自的假设与前提。
由核心人物牵头、有实质论证的对齐观点文章，值得跟进讨论。
「漫话AGI」频道最新
- 观点交锋：GPT-2 时代是否已注定万亿美元算力集群之路 — abhiadesai · 2026-10-28
- 经济学家论 LLM「痛苦」:毫秒级存在无时间连续性,拟人化讨论失焦 — paulnovosad · 2026-10-28
- KOL 感叹:已经三年没有 SOTA 级发布,「AI 是不是到头了?」 — iruletheworldmo · 2026-10-28
- 「先自动化 Ed Witten 再自动化水管工」：AI 能力排序的反讽观察 — bronzeagepapi · 2026-10-28
- 「代码从来不是护城河」:AI 时代软件壁垒之争再起 — kylegawley · 2026-10-28
- 5-MeO-DMT 鼻喷 2b 期结果:193 人试验,8mg 组缓解率 26% — prasanna_says · 2026-10-28