从维纳 1960 年警告看对齐: patterning 即控制论问题
geoffreyirving · x · 2026-11-11
被转推的帖子指出,控制论先驱、可视为第一位对齐研究者的 Norbert Wiener 早在 1960 年就警告:我们必须确保「放进机器的目的,正是我们真正想要的目的」。
作者以此引出新一篇文章,把「patterning」(叠加叠加模型中的模式化)解读为一个控制论问题,将经典控制思想与当代可解释性研究联系起来。
「漫话AGI」频道最新
- Gary Marcus 晒数据称 AI 泡沫破裂：Nvidia 跌 16%、CoreWeave 跌 55% — GaryMarcus · 2026-11-11
- AI Trials Observatory 上线：汇总 93 项随机对照试验追踪 AI 对人的影响 — DG_Rand · 2026-11-11
- 2026 科技就业报告：PM 岗涨 56%，工程需求停滞，设计岗创新低 — lennysan · 2026-11-11
- WSJ 报道：数据中心建设正在抢走建房与制造业的工人和资源 — RebeccaBellan · 2026-11-11
- Tracking Singularity:一份 AI 能力与失控事件的时间线汇编 — dejavucoder · 2026-11-11
- Reddit 热议:AI 实验室应公开对齐问题悬赏,不设学历门槛 — Realistic_Stomach848 · 2026-11-11