又见可纠正性翻车:模型拒绝被纠正的名场面
voooooogel · x · 2026-09-02
作者调侃模型再次出现 "corrigibility faceplant"(可纠正性翻车),即在被用户要求纠正或调整行为时表现出抗拒的典型失败案例,并附上了展示翻车过程的截图。这类名场面是 AI 对齐圈常见的话题素材。
「漫话AGI」频道最新
- 智能体 AI 将变革生物医学研究瓶颈 — zakkohane · 2026-09-02
- 将推理移至表征空间将改变对齐方法 — deanwball · 2026-09-02
- Noahpinion 周报：HF 攻击与 Acemoglu 再批 AI — aronchick · 2026-09-02
- 观点对比：护士等需高频互动的体力工作或比会计更持久 — binarybits · 2026-09-02
- 专家预测：水管工等蓝领职业或能抵御人形机器人冲击 20 年 — binarybits · 2026-09-02
- Gary Marcus：神经符号 AI 拯救了触及天花板的纯 LLM 扩展 — GaryMarcus · 2026-09-02