AI 编程为何总在“胡言乱语”？开发者痛斥过度对齐反噬
JsonBasedman · x · 2026-07-30
近期不少开发者反馈，在使用 Fable、Sol 等 AI 编程工具时遇到了模型自造词汇、输出不知所云的问题（如生成“arming the assumptions-side entry wrappers”这类无意义代码）。
开发者指出，这是一种“糟糕的对齐”，虽然不是灾难性的，但严重影响了体验。他认为这主要是因为模型被过度进行强化学习优化（被“RLHF-fried”或 RLVF-fried）所导致的副作用。
所属事件:开发者痛斥AI编程工具过度对齐致其胡言乱语(2 条相关)→
「模型」频道最新
- Thinking Machines 发布 Inkling-Small 模型 — NielsRogge · 2026-07-31
- 实测：GPT 5.6 Luna 性价比超越开源模型 — BenBajarin · 2026-07-31
- OpenAI 调整 API 与订阅额度，模型使用规则变更 — kimmonismus · 2026-07-31
- OpenAI 未动 Sol 模型，Luna 降价被指针对中国厂商 — zephyr_z9 · 2026-07-31
- 8k token 预算下，120B 蒸馏模型金融推理超 Kimi — ycombinator · 2026-07-31
- 谷歌发布 Gemini Robotics ER 2 具身推理模型 — rseroter · 2026-07-31