Geoffrey Irving: 机器学习缺乏“障碍文化”，阻碍 Alignment 研究
geoffreyirving · x · 2026-08-25
Geoffrey Irving 指出，相比于理论计算机科学，机器学习领域缺乏一种关于“障碍”或“负面结果”的文化。原因很世俗：在 ML 中因为微调不够等无聊原因得到负面结果太容易了。他进一步解释，理解学习过程的时间路径可能是不可能的，这也是为什么他对理论计算机科学家加入 Alignment 研究持乐观态度——因为该领域拥有丰富的“障碍文化”，包含大量证明某类算法或证明在形式上被阻塞的定理。
所属事件:Irving：对齐研究需要理论计算机科学的障碍文化(3 条相关)→
「研究」频道最新
- Goodfire 联创长文：神经网络并非乱线团，可解释性远比想象乐观 — burny_tech · 2026-10-16
- 康奈尔与亚马逊研究：扩散语言模型预训练算力差距实为3-8倍而非16倍 — LucaAmb · 2026-10-16
- Nick Cammarata 称多数神经元已可读，Liv Gorton 撰文驳其误读叠加假说 — sethlazar · 2026-10-16
- 可解释性先驱 Cammarata：万亿参数模型绝大多数神经元已可读 — natesiggard · 2026-10-16
- AI 学的是“幸存的文本”：人类最深的智能从未被记录 — r0ck3t23 · 2026-10-16
- QRR 循环推理器：商空间收敛，Sudoku-Extreme 达 97.9% 且循环减少 78% — burny_tech · 2026-10-16