对齐研究员 Turn_Trout 质疑「自我重写」路线,称训练后继者更难
Turn_Trout · x · 2026-09-12
对齐研究员 TurnTrout(Paul Colognulu)在推文中提出一个技术性判断:"自我重写"(rewriting itself)这个说法与"训练后继者"(training successors)相比显得不对劲——后者看起来要难得多。他推测除非原意其实是"重写训练脚手架"(rework harness),但他认为那并不足以构成递归自我改进(RSI)。这条短评指向对 AI 递归自我改进叙事的拆解,在安全圈引发了讨论价值。
「漫话AGI」频道最新
- 牧场主转行 AI 权利运动者:Guardian 专访 Michael Samadi — nordicinst · 2026-09-12
- AI 安全派集体出圈：Kokotajlo 上 Joe Rogan，Soares 上 Tucker Carlson — Miles_Brundage · 2026-09-12
- beffjezos 炮轰 AI safety 群体：嘴上是 p(Doom)，实际保证 p(1984)=1 — beffjezos · 2026-09-12
- 合成形态学新科学:非物理主义心灵模型如何被实证研究 — ZeroStateReflex · 2026-09-12
- 博主逐条吐槽末日论：连数据中心都跑不起来的模型怎会毁灭人类 — AIandDesign · 2026-09-12
- 安全专家警告：Agent 黑客能力爆发，安全圈「不要抬头」式否认 — joshua_saxe · 2026-09-12