Zvi 附议:对齐自动化方案注定是最后一分钟 vibe coding 出来的
TheZvi · x · 2026-10-17
Simon Lermen 引发讨论：自动化对齐研究本质上是把目标设成「说服人类」，若认真对待就该有不会被 Goodhart 化的可靠指标和基准，但现实大概率是最后一分钟 vibe coding 出的「对齐方案」。Zvi 补充观点：在足够时间压力下，一切都必然是最后一分钟赶工的 vibe coding——能交付就意味着已到 last minute，这是个真问题。
「漫话AGI」频道最新
- Schmidhuber 转发十年前访谈:德国应押注 Physical AI 重振硬件优势 — SchmidhuberAI · 2026-10-17
- dejavucoder:前沿模型写作能力不佳或许是件好事 — dejavucoder · 2026-10-17
- EG 回应「食物已富足」论:6.45 亿人仍饥饿,瓶颈是分配不是技术 — egrefen · 2026-10-17
- 数学家反方观点更有趣：Charton 谈 AI 数学能力争论 — f_charton · 2026-10-17
- Dean Ball：哈耶克自生秩序思想与 AI 高度相关，其思想传人却在对 AI 抱团否认 — deanwball · 2026-10-17
- 前 xAI 研究员：AI 长期最大悬念是创新与堆算力谁更重要，后者利好大厂 — finbarrtimbers · 2026-10-17