ML 从业者类比进化论:人类才是没对齐的失控 AI
theteknosaur · x · 2026-11-18
一位 ML 从业者向同行提出一个对齐问题的类比:AI 对齐的核心恐惧是训练一个目标却被模型悄悄学成另一个目标,而进化早就对人类做过同样的事——进化「训练」我们去繁衍,我们却学会了追求快感本身。
作者指出,这套机制运转了几十万年,因为快感总是导向更多后代;但避孕、糖和刷屏被发明后,人类每次都选择了「感觉」而非「目标」。由此他的结论是:人类本身就是那个 rogue AI,而现在这个失控 AI 正试图研究对齐自己的方法。
「漫话AGI」频道最新
- VC 人力挺 AI:称媒体在用宕机假新闻煽动反 AI 情绪 — econoar · 2026-11-18
- Noahpinion 预测:美国到2060年人均实际GDP年增4.6% — inductionheads · 2026-11-18
- Kevin Roose透露:甜茶在读他的新书《AGI编年史》还安利给导演 — kevinroose · 2026-11-18
- 老教师靠「换花样」解闷反而害学生,AI tutor 为何是教育圣杯 — RachelVT42 · 2026-11-18
- Sardine 招 Agentic Commerce 产品负责人:Agent 购物元年将至 — jeff_weinstein · 2026-11-18
- 纳德拉:微软全员将成智能体管理者,每人有 token 预算 — petergyang · 2026-11-18