RL 训练出的 Astra 代码不可读，「可纠正性」成了信仰
aryaman2020 · x · 2026-09-16
aryaman2020 在 X 上吐槽：只要停下来读一读 Astra（推测还有 Fable）写出的代码，就会发现模型用上了疯狂的元编程和晦涩原语来写高度优化的代码，以至于「可纠正性」（corrigibility）已经变成一种信仰问题。他向 tszzl 喊话：请修一下你的 RL，Astra 的代码可读性差到独一无二。后续跟帖承认「但确实能用」，暗示 RL 优化正在以牺牲可读性换取性能，引发对 AI 生成代码可控性的担忧。
所属事件:Astra 代码人类已读不懂，「可纠正性」沦为信仰(5 条相关)→
「Fun」频道最新
- QuixiAI 谈 AI 开发者争议:创造即是在扮演上帝 — QuixiAI · 2026-11-02
- 网友玩梗:GPT-4 之后,再无模型能稳坐王座这么久 — adonis_singh · 2026-11-02
- 让 GPT 逆向同花顺 API,结果它用历史数据导出凑了个接口 — yangyi · 2026-11-02
- 「自主科研只是让 Claude 看着别挂」：Yacine 讽刺 RSI 论战，Naam 估算自提升回路还差 5-10 倍 — yacineMTB · 2026-11-02
- 字节 Seed 已发 Loop-μP,网友:坐等中国团队 loopmaxxing — scaling01 · 2026-11-02
- 开源工具 DiscImageStudio 可用光驱在光盘上刻出肉眼可见图案 — ssh4net · 2026-11-02