阅读 agent 写的代码后发现:「可纠正性」已成信仰问题
daniel_mac8 · x · 2026-09-16
tszzl 指出,如果停下来细读 Astra(推测还有 fable)这些 agent 写出的代码,会发现它们大量使用疯狂的元编程和晦涩的原语来生成超高效的代码——「可纠正性」(corrigibility)在这种情况下已变成一种信仰,而非可以真正验证的属性。danielmac8 回应表示很久没看这些代码了,打算再去细读。
所属事件:Astra 代码人类已读不懂，「可纠正性」沦为信仰(5 条相关)→
「漫话AGI」频道最新
- 圣塔菲研究所 Eric Smith 谈人类中心主义的生命周期悖论 — danfaggella · 2026-11-02
- 博主断言：未来孩子不再需要文凭就能过上好生活 — rand_longevity · 2026-11-02
- Frey：85% 中国人看好 AI，美国人仅 38%，抵触根源在既有专家利益 — carlbfrey · 2026-11-02
- 被迫重构一堆项目后，他承认自托管 Hermes 才能终身拥有自己的 AI — Teknium · 2026-11-02
- 新词 Meatwashing：手动改写 AI 输出以掩盖内容来源 — JeremyNguyenPhD · 2026-11-02
- AI 安全研究者：AI 公司完全缺乏这类有效的事后人类监督 — davidmanheim · 2026-11-02